|
' D5 x/ A0 p9 h/ u' R& j不管說得多么高級(jí),,用多么復(fù)雜的辭藻來描述,都不能回避一個(gè)問題,,你所描述的技術(shù)有沒有約束,?所有的自動(dòng)化產(chǎn)線,都有安全裝置,,包括但不限于自動(dòng)急停裝置,,警報(bào)等,而且大部分都有安全柵欄,,一旦有人打開一扇門,,不管是不是會(huì)造成潛在的危險(xiǎn),產(chǎn)線自動(dòng)停止,。目的就是避免出現(xiàn)任何意外,,這個(gè)意外就是在程序設(shè)計(jì)中沒有考慮到的情況。這是設(shè)計(jì)本質(zhì)是就是把環(huán)境規(guī)范得越簡(jiǎn)單越好,,越單純?cè)胶谩?br />
0 F) ^ g5 J7 ?- }- ^ai能夠滿足人類得無線期待嗎,?能夠處理任何意外嗎?永遠(yuǎn)不能,。如果出現(xiàn)了意外,,誰來承擔(dān)后果呢?比如智能駕駛,,車掉進(jìn)了馬路中央的處于緊急維修中的溝里面,,誰來承擔(dān)責(zé)任?修路的,?還是車主,?還是生產(chǎn)汽車的公司?恐怕大家都想讓汽車公司承擔(dān)責(zé)任吧,。任何一個(gè)汽車公司都要倒閉,。福特裁撤自動(dòng)駕駛部門停止自動(dòng)駕駛的研發(fā)就是因?yàn)樵囼?yàn)車出了幾次事故才放棄的,。; L% _* M6 _2 F
由于不能預(yù)判將來會(huì)發(fā)生的不可預(yù)知的事件,也就無法預(yù)判引起的反應(yīng)和后果是什么,,這必然會(huì)導(dǎo)致將來發(fā)展ai必須有邊界和約束,,否則就是人類設(shè)計(jì)的ai反過來毀了人類自己。9 \' D8 v! o8 W! o$ u# _
這是悖論,,但是很顯然,,這是真的。
7 L( _/ |) H1 k& O, W) h |
|