波音737帶來的啟示：人工智能是不是要向習(xí)慣低頭,？

zmztx

*****    本帖不涉及政治     ******

波音737max8半年時(shí)間里摔了兩架，失事原因尚無定論,。
現(xiàn)在有兩點(diǎn)對波音很不利,。一是在兩個(gè)現(xiàn)場發(fā)現(xiàn)的部件能證明尾翼抬起機(jī)頭向下栽，而且駕駛員也說機(jī)頭拉不起來,；還有就是裝了兩套軟件,，一個(gè)是防失速系統(tǒng)，一個(gè)是反防失速系統(tǒng),。防，而后在反防,，這一點(diǎn)確實(shí)不好理解,。
可話說回來，波音公司在出事后仍然信心滿滿,。再就是波音737MAX飛機(jī)在各國在使用的數(shù)量很多,，為什么大部分飛機(jī)沒出事。
其實(shí)機(jī)頭拉不起來和兩個(gè)軟件系統(tǒng)是一回事,，都是為了飛行姿態(tài),。有人分析，軟件對姿態(tài)控制（當(dāng)然還有硬件,，如傳感器）的優(yōu)先權(quán)高于駕駛員,，換句話說就是姿態(tài)控制交給軟件系統(tǒng)了，沒駕駛員什么事了,。那么照這個(gè)邏輯,，系統(tǒng)不可靠，凡是裝這種控制系統(tǒng)的都該直接掉下來了,�,？蓪�(shí)際上只掉下來兩架。
據(jù)說,，波音研制或者參與研制的戰(zhàn)斗機(jī),、轟炸機(jī)中，也有裝這種軟件系統(tǒng)的,，是經(jīng)過考驗(yàn)的,。當(dāng)然是在作戰(zhàn)飛機(jī)上的考驗(yàn)
于是，就有這樣的認(rèn)識(shí)
第一,，技術(shù)不能太超前,，以至于人們難以掌握
第二,，采用先進(jìn)技術(shù)，使用者必須經(jīng)過充分的訓(xùn)練
當(dāng)然,，失事原因還沒確認(rèn),。但是上述兩點(diǎn)分析確實(shí)值得深思
我想，假如真是機(jī)頭無法控制,，那么關(guān)掉那套控制系統(tǒng)不就完了嗎,？也許是連怎么關(guān)都是很復(fù)雜的操作，以至于事到臨頭,，關(guān)都關(guān)不上,。

zmztx

技術(shù)不能太先進(jìn)，否則難以掌握,。
在工廠里,，這種事情常見。比如質(zhì)量控制,，你要搞一套復(fù)雜有麻煩的方法,，一二三四好多條，估計(jì)沒什么實(shí)際效果,。
但你要說,，往轉(zhuǎn)軸上貼塊膠布，軸轉(zhuǎn)沒轉(zhuǎn),，轉(zhuǎn)了多少,，一目了然！

一些功能復(fù)雜的軟件也是這樣
比如設(shè)計(jì)軟件,，除非你按一個(gè)鍵,，機(jī)器就設(shè)計(jì)完成了。否則,，如果需要人機(jī)配合,，各個(gè)功能劃分、自動(dòng)化程度就需要好好的斟酌,。
還有就是導(dǎo)航,，不同的功能模塊使用當(dāng)中，需要給出指引,，退出怎么操作,，回退怎么操作，繼續(xù)有幾個(gè)選擇,，等等,。最好不要和現(xiàn)有的習(xí)慣太擰巴,。各位可以注意，3D-CAD軟件,，和以往手工繪圖習(xí)慣并不太擰巴,。
就像737-8，啟用自動(dòng)系統(tǒng)時(shí),，一旦給出信號(hào),，機(jī)頭就會(huì)下壓（這個(gè)過程是10秒）。這時(shí)駕駛員要干預(yù),，好像需要關(guān)閉系統(tǒng)再操作,。而兩次失事飛機(jī)的駕駛員，好像直接和系統(tǒng)較勁,，反復(fù)十幾次,，結(jié)果還是控制不住。也許戰(zhàn)斗機(jī)駕駛員訓(xùn)練足夠,，也過關(guān),，相對年輕反應(yīng)快。民航駕駛員也許有些達(dá)不到這種水平,。還有就是民航飛機(jī)一般都裝自動(dòng)駕駛系統(tǒng)（巡航用，有的汽車也有）,。我想是不是這種失速控制系統(tǒng),，在使用習(xí)慣上和以前的自動(dòng)駕駛系統(tǒng)有很大不同，如果套用老經(jīng)驗(yàn),，也許就送命了,。

王紅強(qiáng)whq

頂

andriycike

系統(tǒng)軟件問題導(dǎo)致的事故極其少見，基本都是飛行員對于軟件不夠熟悉造成的,，智能軟件在工作的時(shí)候,，人工操作是無效的，必須先關(guān)閉智能控制再進(jìn)行人工操作,，很多事故都是飛行員沒有關(guān)閉智能控制就進(jìn)行人工操作,，逐漸喪失控制能力，心態(tài)越來越慌,，最終導(dǎo)致飛機(jī)失控,，表面原因是飛行員不熟悉軟件，或者過度疲勞緊張,，歸根到底還是我們正處在人工向智能過渡的階段,，一方面智能技術(shù)還不夠成熟就已經(jīng)大范圍推廣和更新，另一方面人類對于智能不信任,，導(dǎo)致一線的操作者也處于一種糾結(jié)的狀態(tài)中,，我相信智能最終會(huì)完全取代人工,，但這個(gè)過程中必然會(huì)有嘗試與損失

zmztx

andriycike 發(fā)表于 2019-3-17 10:46
系統(tǒng)軟件問題導(dǎo)致的事故極其少見，基本都是飛行員對于軟件不夠熟悉造成的,，智能軟件在工作的時(shí)候,，人工操作 ...

是的
不過，汽車巡航系統(tǒng)啟動(dòng)后,，如果司機(jī)動(dòng)方向盤,，系統(tǒng)自動(dòng)切換到人工駕駛。也就是說權(quán)限由自動(dòng)系統(tǒng)馬上就交給了人,。我的意思是：
如果人習(xí)慣了某種操作,，飛機(jī)駕駛員可能下意識(shí)的覺得，只要?jiǎng)臃较�,，系統(tǒng)也馬上就把權(quán)限交給人,。可惜系統(tǒng)沒交權(quán)限,，人一下子就暈了,。然后就較勁。
我覺得在權(quán)限切換上有待改進(jìn),。當(dāng)然,，如果超音速戰(zhàn)斗機(jī)在兩三個(gè)馬赫數(shù)飛行時(shí)，姿態(tài)控制上,，就沒打算交給人控制,。那是另外一回事。
不管最后結(jié)論如何,，這畢竟是個(gè)問題,。

人的養(yǎng)成的習(xí)慣，有時(shí)真的會(huì)壞事
比如機(jī)床,，在走刀前可能會(huì)要看一下軌跡,，防止撞床子。操作就是搖一下手柄,�,？傻搅藬�(shù)控機(jī)床，就需要修改程序,。試完后再用上刀程序走。這個(gè)地方出問題的不少,，直接把床子報(bào)廢的也有。這時(shí)是賴數(shù)控系統(tǒng)還是賴人呢,？
說的再直接一點(diǎn)：設(shè)計(jì)者包括自動(dòng)系統(tǒng)的設(shè)計(jì)者,，在這種情況下,，是不是要讓步,？迎合習(xí)慣,？向習(xí)慣低頭,？

未來第一站

“機(jī)器人三大原則”早就有了,。
第一條：機(jī)器人不得危害人類,。此外，不可因?yàn)槭韬鑫ｋU(xiǎn)的存在而使人類受害,。

第二條：機(jī)器人必須服從人類的命令,，但命令違反第一條內(nèi)容時(shí)，則不在此限,。

第三條：在不違反第一條和第二條的情況下,，機(jī)器人必須保護(hù)自己。

遠(yuǎn)祥

其實(shí)這些確實(shí)是波音公司的問題,，否則不可能近三個(gè)月連續(xù)出現(xiàn)兩臺(tái)飛機(jī)出現(xiàn)事故,！

我叫劉有福

737max系列是根據(jù)737 改裝的
機(jī)身加大加長 發(fā)動(dòng)機(jī)大的情況下 前艙隨時(shí)減小  導(dǎo)致機(jī)尾重量加大  而其他的并沒有隨之改進(jìn)
機(jī)尾重量大  機(jī)尾下墜 為了防止機(jī)尾擦地     所以加了一套智能軟件來強(qiáng)制機(jī)頭向下  
說白了  就是想省錢省時(shí)省力  想用智能軟件來彌補(bǔ)設(shè)計(jì)上的缺陷

我叫劉有福

忘了說樓主說的人工智能了 記得之前看過一篇文章說
也許真正的人工智能時(shí)代永遠(yuǎn)不會(huì)到來

2782104275

一家公司的問題不值得討論這么多。否則大眾召回那么多次,，是不是早可以定論德國制造業(yè)不行了,？實(shí)際就是波音圖省事，而且和一線也就是飛行員溝通測試不足導(dǎo)致的,。人工智能還是先考慮怎么代替人工吧，智能的步子還是別邁太大,，邁大了全是扯淡