|
; |7 R9 N9 Q* k: t# d
不管說得多么高級,用多么復雜的辭藻來描述,,都不能回避一個問題,,你所描述的技術有沒有約束?所有的自動化產線,,都有安全裝置,,包括但不限于自動急停裝置,警報等,,而且大部分都有安全柵欄,,一旦有人打開一扇門,不管是不是會造成潛在的危險,,產線自動停止,。目的就是避免出現任何意外,這個意外就是在程序設計中沒有考慮到的情況,。這是設計本質是就是把環(huán)境規(guī)范得越簡單越好,,越單純越好。
: f: ?. U7 u. U' @ai能夠滿足人類得無線期待嗎,?能夠處理任何意外嗎,?永遠不能,。如果出現了意外,誰來承擔后果呢,?比如智能駕駛,,車掉進了馬路中央的處于緊急維修中的溝里面,誰來承擔責任,?修路的,?還是車主?還是生產汽車的公司,?恐怕大家都想讓汽車公司承擔責任吧,。任何一個汽車公司都要倒閉。福特裁撤自動駕駛部門停止自動駕駛的研發(fā)就是因為試驗車出了幾次事故才放棄的,。
6 i' |; M4 T5 s$ Z由于不能預判將來會發(fā)生的不可預知的事件,,也就無法預判引起的反應和后果是什么,這必然會導致將來發(fā)展ai必須有邊界和約束,,否則就是人類設計的ai反過來毀了人類自己,。
9 f3 V$ F* ]4 T* X" h這是悖論,但是很顯然,,這是真的,。
% R- f% e6 i* P" p% ^/ z" g |
|