美國剛剛公布了迄今為止最雄心勃勃的控制人工智能的嘗試

周一，美國總統(tǒng)拜登發(fā)布了一項(xiàng)范圍廣泛且雄心勃勃的行政命令關(guān)于人工智能 （AI）– 將美國推上了關(guān)于監(jiān)管人工智能的對話的前沿。

在這樣做的過程中，美國在統(tǒng)治人工智能的競賽中超越了其他國家。歐洲此前以其人工智能法案，該公約于2023年6月由歐洲議會通過，但要到2025年才能完全生效。

總統(tǒng)行政命令是監(jiān)管人工智能的一系列舉措——其中一些是好的，而另一些則看起來相當(dāng)半生不熟。它旨在解決從直接的危害（如人工智能生成的深度偽造）到中間的危害（如失業(yè)），再到長期的危害，如人工智能可能對人類構(gòu)成的備受爭議的生存威脅。

拜登雄心勃勃的計(jì)劃

美國國會在通過對大型科技公司的重大監(jiān)管方面進(jìn)展緩慢。這項(xiàng)總統(tǒng)行政命令可能既是為了回避經(jīng)常陷入僵局的國會，也是為了啟動行動。例如，該命令呼吁國會通過兩黨數(shù)據(jù)隱私立法。

在當(dāng)前形勢下，兩黨的支持？祝你好運(yùn)，總統(tǒng)先生。

據(jù)報道，該行政命令將在未來三個月至一年內(nèi)實(shí)施。它涵蓋八個領(lǐng)域：

1. 人工智能的安全和安保標(biāo)準(zhǔn)
2. 隱私保護(hù)
3. 衡平法和公民權(quán)利
4. 消費(fèi)者權(quán)益
5. 工作
6. 創(chuàng)新與競爭
7. 國際領(lǐng)導(dǎo)地位
8. AI 治理。

一方面，該命令涵蓋了學(xué)術(shù)界和公眾提出的許多擔(dān)憂。例如，其中一項(xiàng)指令是發(fā)布關(guān)于如何對人工智能生成的內(nèi)容加水印的官方指導(dǎo)，以降低深度偽造的風(fēng)險。

它還要求開發(fā)人工智能模型的公司證明它們是安全的，然后才能推出以供更廣泛地使用。拜登總統(tǒng)說:

這意味著公司必須向政府介紹他們正在開發(fā)的大規(guī)模人工智能系統(tǒng)，并分享嚴(yán)格的獨(dú)立測試結(jié)果，以證明它們不會對美國人民構(gòu)成國家安全或安全風(fēng)險。

人工智能在戰(zhàn)爭中的潛在災(zāi)難性用途

與此同時，該命令未能解決一些緊迫的問題。例如，它沒有直接解決如何應(yīng)對殺手級人工智能機(jī)器人的問題，這是一個令人煩惱的話題，在過去兩周內(nèi)一直在討論。聯(lián)合國大會.

這種擔(dān)憂不容忽視。五角大樓是開發(fā)蜂群低成本自主無人機(jī)，作為其最近宣布的復(fù)制器計(jì)劃的一部分。同樣，烏克蘭也開發(fā)了本土的人工智能攻擊無人機(jī)，可以在沒有人為干預(yù).

我們最終會進(jìn)入一個機(jī)器決定誰生誰死的世界嗎？該行政命令只是要求軍方以合乎道德的方式使用人工智能，但沒有規(guī)定這意味著什么。

那么保護(hù)選舉免受人工智能驅(qū)動的大規(guī)模說服武器的侵害呢？一些媒體報道了斯洛伐克最近的選舉可能受到影響作者：deepfakes.許多專家，包括我自己，也擔(dān)心在即將到來的美國總統(tǒng)大選中濫用人工智能。

除非實(shí)施嚴(yán)格的控制措施，否則我們有可能生活在一個你在網(wǎng)上看到或聽到的任何東西都不可信的時代。如果這聽起來有些夸張，請考慮一下美國共和黨已經(jīng)發(fā)布了廣告活動廣告這似乎完全由 AI 生成。

錯失良機(jī)

行政命令中的許多舉措可以而且應(yīng)該在其他地方復(fù)制，包括澳大利亞。我們也應(yīng)該按照命令的要求，為房東、政府項(xiàng)目和政府承包商提供指導(dǎo)，說明如何確保人工智能算法不會被用來歧視個人。

我們還應(yīng)該按照命令的要求，解決刑事司法系統(tǒng)中的算法歧視問題，人工智能越來越多地用于高風(fēng)險環(huán)境，包括量刑、假釋和緩刑、審前釋放和拘留、風(fēng)險評估、監(jiān)視和預(yù)測性警務(wù)等。

人工智能在澳大利亞也被用于此類應(yīng)用，例如用于監(jiān)控青少年的嫌疑人目標(biāo)管理計(jì)劃在新南威爾士州.

也許行政命令中最具爭議的方面是解決最強(qiáng)大的所謂“前沿”人工智能模型的潛在危害。一些專家認(rèn)為，這些模型由Open AI、谷歌和Anthropic等公司開發(fā)，對人類構(gòu)成了生存威脅。

其他人，包括我自己，認(rèn)為這種擔(dān)憂被夸大了，可能會分散對更直接的傷害的注意力，例如錯誤信息和不平等，這些傷害已經(jīng)傷害了社會。

拜登的命令援引了非凡的戰(zhàn)爭權(quán)力（特別是 1950 年國防生產(chǎn)法在朝鮮戰(zhàn)爭期間引入），要求公司在訓(xùn)練此類前沿模型時通知聯(lián)邦政府。它還要求他們分享”紅隊(duì)“安全測試，其中內(nèi)部黑客使用攻擊來探測軟件的錯誤和漏洞。

我想說的是，監(jiān)管前沿模型的發(fā)展將是困難的，也許是不可能的。上述指令不會阻止公司在海外開發(fā)此類模型，因?yàn)槊绹诤Ｍ獾臋?quán)力有限。開源社區(qū)也可以以分布式方式開發(fā)它們——一種使科技世界“無國界”的方式。

行政命令的影響可能會對政府本身產(chǎn)生最大的影響，以及它如何使用人工智能，而不是企業(yè)。

盡管如此，這是一個受歡迎的行動。英國首相里?！ぬK納克（Rishi Sunak）的人工智能安全峰會（AI Safety Summit）正在舉行接下來的兩天相比之下，現(xiàn)在看起來有點(diǎn)像一場外交談話盛宴。

這確實(shí)讓人羨慕總統(tǒng)把事情做好的權(quán)力。

托比·沃爾什，人工智能教授，課題組組長，新南威爾士大學(xué)悉尼分校

本文轉(zhuǎn)載自對話根據(jù)知識共享許可。閱讀原文.

寶寶起名 起名