|
5 ?! i2 a6 X0 w/ r0 \
不管說得多么高級,,用多么復(fù)雜的辭藻來描述,都不能回避一個問題,,你所描述的技術(shù)有沒有約束,?所有的自動化產(chǎn)線,都有安全裝置,,包括但不限于自動急停裝置,,警報等,而且大部分都有安全柵欄,,一旦有人打開一扇門,,不管是不是會造成潛在的危險,產(chǎn)線自動停止,。目的就是避免出現(xiàn)任何意外,,這個意外就是在程序設(shè)計中沒有考慮到的情況。這是設(shè)計本質(zhì)是就是把環(huán)境規(guī)范得越簡單越好,,越單純越好,。
. f) t0 @4 I- A `1 ]. f8 Fai能夠滿足人類得無線期待嗎?能夠處理任何意外嗎,?永遠不能,。如果出現(xiàn)了意外,誰來承擔(dān)后果呢,?比如智能駕駛,,車掉進了馬路中央的處于緊急維修中的溝里面,誰來承擔(dān)責(zé)任,?修路的,?還是車主?還是生產(chǎn)汽車的公司,?恐怕大家都想讓汽車公司承擔(dān)責(zé)任吧,。任何一個汽車公司都要倒閉。福特裁撤自動駕駛部門停止自動駕駛的研發(fā)就是因為試驗車出了幾次事故才放棄的,。
* E2 w7 k5 r) V由于不能預(yù)判將來會發(fā)生的不可預(yù)知的事件,,也就無法預(yù)判引起的反應(yīng)和后果是什么,這必然會導(dǎo)致將來發(fā)展ai必須有邊界和約束,,否則就是人類設(shè)計的ai反過來毀了人類自己,。
5 v8 f" B" o: R9 J這是悖論,但是很顯然,,這是真的,。
" e' ]* q$ g: E1 D: A+ { |
|