|
4 `; g* L- A: @; j: V% h( z
不管說得多么高級,,用多么復(fù)雜的辭藻來描述,都不能回避一個問題,,你所描述的技術(shù)有沒有約束,?所有的自動化產(chǎn)線,都有安全裝置,,包括但不限于自動急停裝置,,警報等,而且大部分都有安全柵欄,,一旦有人打開一扇門,,不管是不是會造成潛在的危險,產(chǎn)線自動停止,。目的就是避免出現(xiàn)任何意外,,這個意外就是在程序設(shè)計中沒有考慮到的情況。這是設(shè)計本質(zhì)是就是把環(huán)境規(guī)范得越簡單越好,,越單純越好,。
& Y5 p. T' m. o1 r( e+ A7 Eai能夠滿足人類得無線期待嗎?能夠處理任何意外嗎,?永遠不能,。如果出現(xiàn)了意外,誰來承擔(dān)后果呢,?比如智能駕駛,,車掉進了馬路中央的處于緊急維修中的溝里面,誰來承擔(dān)責(zé)任,?修路的,?還是車主?還是生產(chǎn)汽車的公司,?恐怕大家都想讓汽車公司承擔(dān)責(zé)任吧,。任何一個汽車公司都要倒閉。福特裁撤自動駕駛部門停止自動駕駛的研發(fā)就是因為試驗車出了幾次事故才放棄的,。
, T1 v1 j; f0 a2 s( s由于不能預(yù)判將來會發(fā)生的不可預(yù)知的事件,,也就無法預(yù)判引起的反應(yīng)和后果是什么,這必然會導(dǎo)致將來發(fā)展ai必須有邊界和約束,,否則就是人類設(shè)計的ai反過來毀了人類自己,。
, f% p0 a; f0 H; C1 Z1 Z0 h這是悖論,但是很顯然,,這是真的,。
; r5 f, T3 p- q% r# r; S |
|