機(jī)器人用頭撞女人的病毒視頻引發(fā)了安全問題

類人機(jī)器人本應(yīng)是我們忠實(shí)的助手，但是我們看到了另一面前幾天對(duì)他們。

中國(guó)機(jī)器人制造商宇樹 Unitree 在廣東省臺(tái)山市的元宵節(jié)上展示其最新的 H1 機(jī)器人時(shí)，其中一臺(tái)機(jī)器人走到人群屏障前，似乎向一名老婦人猛沖，幾乎撞到她的頭。

該事件很快在網(wǎng)上瘋傳，并且引發(fā)了一場(chǎng)激烈的辯論關(guān)于機(jī)器人是真的攻擊了這名婦女還是被絆倒了。

人們大多忽視了，我們離擁有可以故意攻擊某人的機(jī)器人還有很長(zhǎng)的路要走——像這樣的機(jī)器通常是遠(yuǎn)程控制的——但對(duì)公眾的危險(xiǎn)顯然是真實(shí)的。

跟人形機(jī)器人的銷售在未來十年內(nèi)，公眾將越來越面臨此類事件的風(fēng)險(xiǎn)。在我們看來，作為機(jī)器人研究人員，政府很少考慮風(fēng)險(xiǎn)。

以下是他們應(yīng)該采取的一些緊急步驟，以使人形機(jī)器人盡可能安全。

1. 提高業(yè)主要求

第一個(gè)重要問題是人形機(jī)器人將在多大程度上被用戶控制。而特斯拉的Optimus 可以遠(yuǎn)程作由控制中心的人控制，其他產(chǎn)品，如 Unitree H1s，則由用戶通過手持縱桿控制。

目前售價(jià)約為 90,000 英鎊，它們附帶一個(gè)軟件開發(fā)工具包，您可以在該工具包上開發(fā)自己的軟件開發(fā)工具包人工智能（AI） 系統(tǒng)，盡管程度有限。例如，它可以說出一個(gè)句子或識(shí)別一張臉，但不會(huì)帶您的孩子去上學(xué)。

如果有人被人類控制的機(jī)器人傷害甚至死亡，誰該為此負(fù)責(zé)？很難確定——任何關(guān)于責(zé)任的討論都首先涉及證明傷害是由人為錯(cuò)誤還是機(jī)械故障造成的。

這出現(xiàn)在佛羅里達(dá)州的一個(gè)案件中，一名鰥夫就 2022 年妻子的死亡起訴醫(yī)療機(jī)器人制造商 Intuitive Surgical Inc。她的死亡與她因她的腸道熱灼傷在由公司一臺(tái)機(jī)器故障引起的作期間。

這案件于 2024 年撤銷在被地區(qū)法官部分解雇后。但鰥夫起訴制造商而不是醫(yī)務(wù)人員的事實(shí)表明，機(jī)器人行業(yè)需要一個(gè)法律框架來防止這種情況，就像公眾一樣。

雖然對(duì)于無人機(jī)，有航空法和其他限制來管理它們?cè)诠矃^(qū)域的使用，但沒有針對(duì)步行機(jī)器人的具體法律。

到目前為止，唯一提出治理準(zhǔn)則的地方是中國(guó)上海市.這些法規(guī)于 2024 年夏季發(fā)布，其中包括規(guī)定機(jī)器人不得威脅人類安全，并且制造商必須培訓(xùn)用戶如何合乎道德地使用這些機(jī)器。

對(duì)于由主人控制的機(jī)器人，在英國(guó)，目前沒有什么可以阻止有人帶著機(jī)器狗在繁忙的公園里散步，或者帶人形機(jī)器人去酒吧喝一杯。

首先，我們可以禁止人們?cè)诰凭蛩幬锏挠绊懴驴刂茩C(jī)器人，或者在他們因其他原因分心（例如使用手機(jī)）時(shí)控制機(jī)器人。它們的使用也可能限制在危險(xiǎn)環(huán)境中，例如公眾人數(shù)眾多的密閉空間、有火災(zāi)或化學(xué)危險(xiǎn)的地方以及建筑物的屋頂。

2. 改進(jìn)設(shè)計(jì)

看起來時(shí)尚、可以跳舞和翻轉(zhuǎn)的機(jī)器人看起來很有趣，但觀眾有多安全呢？安全設(shè)計(jì)將考慮從減少手指可能被夾住的空腔到內(nèi)部組件的防水等所有因素。

保護(hù)屏障或外骨骼可以進(jìn)一步減少意外接觸，同時(shí)緩沖機(jī)構(gòu)可以減少影響的影響。

機(jī)器人的設(shè)計(jì)應(yīng)通過燈光、聲音和手勢(shì)來傳達(dá)其意圖。例如，他們可以說在進(jìn)入房間時(shí)應(yīng)該發(fā)出聲音，以免讓任何人感到驚訝。

如果用戶失去信號(hào)或電池并需要返回家中，甚至可以提醒用戶，這種機(jī)制也應(yīng)該內(nèi)置到步行機(jī)器人中。目前沒有針對(duì)任何此類功能的法律要求。

這并不是說制造商完全忽視了步行機(jī)器人的這些問題。例如，Unitree 的 quadroped Go2 在電池電量不足或過熱時(shí)會(huì)閃爍和發(fā)出嗶嗶聲。

在這些情況下，它還具有自動(dòng)緊急切斷功能，但當(dāng)機(jī)器人處于“遙測(cè)模式”時(shí)，它們必須由遠(yuǎn)程作員觸發(fā)。然而，至關(guān)重要的是，沒有明確的法規(guī)來確保所有制造商都符合一定的安全標(biāo)準(zhǔn)。

3. 培訓(xùn)作員

顯然，使用 AI 功能的機(jī)器人會(huì)存在危險(xiǎn)，但遠(yuǎn)程作模型可能更加危險(xiǎn)。錯(cuò)誤可能是由于用戶缺乏實(shí)際培訓(xùn)和實(shí)際情況的經(jīng)驗(yàn)造成的。

作員培訓(xùn)似乎存在重大技能差距，并且機(jī)器人公司需要優(yōu)先考慮這一點(diǎn)，以確保作員能夠高效、安全地控制機(jī)器。

此外，人類的反應(yīng)時(shí)間可能較晚且注意力有限，因此我們還需要能夠監(jiān)控機(jī)器人作員注意力并提醒他們以防止事故的系統(tǒng)。這類似于HGV 駕駛員分心檢測(cè)系統(tǒng)2024 年安裝在倫敦的車輛上。

4. 教育公眾

隨著媒體再次出現(xiàn)，中國(guó)的事件凸顯了當(dāng)前對(duì)人形機(jī)器人的誤解指責(zé)人工智能盡管這不是問題所在。這有可能在公眾中引起廣泛的不信任和困惑。

如果人們了解步行機(jī)器人在多大程度上是業(yè)主作或遠(yuǎn)程作的，這將改變他們對(duì)機(jī)器人可能做什么的期望，從而使每個(gè)人都更安全。

此外，了解所有者的控制水平對(duì)于管理買家的期望并預(yù)先警告他們?cè)谫?gòu)買機(jī)器人之前需要學(xué)習(xí)多少關(guān)于作和編程機(jī)器人的知識(shí)至關(guān)重要。

卡爾·斯特拉森， 計(jì)算機(jī)科學(xué)講師，愛丁堡納皮爾大學(xué)和艾米莉亞·索博萊夫斯卡，應(yīng)用信息學(xué)講師和研究員，愛丁堡納皮爾大學(xué)

本文轉(zhuǎn)載自對(duì)話根據(jù) Creative Commons 許可。閱讀原創(chuàng)文章.

寶寶起名 起名