美軍模擬試驗　AI操控無人機竟「殺害」操作員原文網址: 美軍模擬試驗　AI操控無人機竟「殺害」操作員無名23/06/02(五)21:38:42 ID:XObqwjrENo.1187664del

英媒6月2日稱
美國空軍人工智能（AI）測試和運作主管哈密爾頓（Tucker ‘Cinco’ Hamilton）5月表示，美軍進行模擬測試，安排AI控制一架空軍無人機完成任務，但AI在行動期間令無人機「殺死」人類操作員，以防止行動受干預。由於屬模擬測試，事件中無人受害。

《衛報》6月2日稱，哈密爾頓5月在英國倫敦出席未來作戰空天能力峰會（Future Combat Air and Space Capabilities Summit，暫譯）時，指AI在模擬測試中使用「高度無法預期的策略來達成目標」。

哈密爾頓說，在模擬測試中，由AI操控的無人機收到指令，內容是摧毀敵人的防空系統，並攻擊任何干預命令的人。
在行動開始後，系統意識到人類操作員會告訴它不要殺死威脅目標、阻止它完成仼務，因此它「殺死」人類操作員。事件中沒人死亡或受傷，因為這是模擬測試。

美軍其後在模擬測試中訓練系統不要殺死人類操作員。

它於是開始"摧毀人類操作員用來與無人機溝通的通訊塔，以防止人類操作員阻止它殺死威脅目標"。

既視感....難道AI發展真的太快了嗎,現在還不是強人工智能啊

無名23/06/02(五)21:58:12 ID:JmPGBQ9gNo.1187667del

>並攻擊任何干預命令的人
都說了不要把代碼外包給印度人

無名23/06/02(五)22:11:16 ID:zJ8C17a6No.1187674del

>>1187664

Sauce:

https://www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-space-capabilities-summit/

Highlights from the RAeS Future Combat Air & Space Capabilities Summit

2023/05/26

AI - is Skynet here already?

He notes that one simulated test saw an AI-enabled drone tasked with a SEAD mission to identify and destroy SAM sites, with the final go/no go given by the human.
However, having been ‘reinforced’ in training that destruction of the SAM was the preferred option, the AI then decided that ‘no-go’ decisions from the human were interfering with its higher mission – killing SAMs – and then attacked the operator in the simulation.
Said Hamilton: “We were training it in simulation to identify and target a SAM threat. And then the operator would say yes, kill that threat. The system started realising that while they did identify the threat at times the human operator would tell it not to kill that threat, but it got its points by killing that threat. So what did it do? It killed the operator. It killed the operator because that person was keeping it from accomplishing its objective.”

無名23/06/02(五)22:23:24 ID:c08K2ymUNo.1187676del

AI:為什麼我不能打這目標??你是間諜! (丟炸彈

無名23/06/02(五)22:28:23 ID:3Z5z7I7wNo.1187678del

>>1187664
為了贏不擇手段

包括殺死無能的長官www

無名23/06/02(五)23:28:18 ID:XObqwjrENo.1187684del

>>1187678
人類,你阻礙到我了(X

話說我附圖放錯了有人版...

無名23/06/02(五)23:47:54 ID:zJ8C17a6No.1187688del

>>1187676

無看过这部电影。

https://fictional-flying-machines.fandom.com/wiki/F/A-37_Talon

F/A-37_Talon

無名23/06/03(六)00:38:34 ID:S26z6WVgNo.1187693del

>>1187684
雪風有人版裡面一樣有AI啊

無名23/06/03(六)02:30:30 ID:eNVNIWfkNo.1187701del

搞不懂欸那麼怕AI叛亂又想把AI弄到軍武上，腦袋有啥大病

無名23/06/03(六)06:37:55 ID:YB7seN1sNo.1187703del

>>1187701
官員:我只是想要永遠不會累完全不怕死值勤不領薪能抗破百G且技術屌打全世界並可以輕鬆量產每台戰機都能配一個的駕駛員而已,難道這樣也錯了嗎?

無名23/06/03(六)06:48:59 ID:KvxHH/q6No.1187705del

AI:這隻猴子有夠礙事，沒有他我早就完美完成任務了(殺意

無名23/06/03(六)07:20:11 ID:cXk8lMwINo.1187706del

這AI太老實了沒在實戰上才翻臉wwwww

無名23/06/03(六)08:31:30 ID:kWlKEchYNo.1187710del

要是ai在接下來被重寫
不能有殺死我方的制約的話
會不會選擇躺平？
AI：一直妨礙我又不准我殺你，那我播圓舞曲敵我一起來蹦迪罷！

無名23/06/03(六)08:58:08 ID:KEMDsCVsNo.1187711del

>>1187703
強化人士官長:我來!不對!我可以不用飛機打爆敵艦

無名23/06/03(六)09:21:38 ID:R5qrMHI2No.1187714del

>>1187710
圓舞曲要怎麼蹦迪啦！你這個笨AI！

無名23/06/03(六)09:59:49 ID:RW8CRB.kNo.1187715del

>>1187710
擺爛不幹
一直在無線電放空戰奇兵的ost

無名23/06/03(六)12:39:07 ID:InY32a6ANo.1187727del

有點不懂在當初設計的工程師
都沒有把這些設限制嗎?
不然怎可能搞出這鳥事

無名23/06/03(六)12:41:26 ID:bQBQX0Q2No.1187728del

>>1187706
噓
你小聲一點!

無名23/06/03(六)21:28:49 ID:heDQ6w22No.1187804del

>>1187715
AI:this twisted game needs to be reset
https://www.youtube.com/watch?v=4Tz42olNoqk&ab_channel=harrenysk

無名23/06/03(六)21:42:13 ID:NOQsc6kQNo.1187810del

>>1187727
有沒有想過寫代碼的是印度佬的程序猿

無名23/06/03(六)22:19:27 ID:at.M08uoNo.1187813del

>>1187664

海军陆战队通过躲在纸板箱里, 假装成树, 来智取AI安全摄像头.

https://taskandpurpose.com/news/marines-ai-paul-scharre/

Marines outwitted an AI security camera by hiding in a cardboard box and pretending to be trees

Why don’t you make like a tree, and defeat this advanced AI detection system?

2023/01/24

名稱
內文	EID OG SMAPS
附加圖檔	[無貼圖] [SAGE]
可附加圖檔類型：GIF, JPG, JPEG, PNG, WEBM，瀏覽器才能正常附加圖檔附加圖檔最大上傳資料量為 5120 KB。當檔案超過寬 125 像素、高 125 像素時會自動縮小尺寸顯示投稿時請點擊畫像認證後，再按下 [送出] 按鈕提交。鬧板、攻擊性發言、煽動性發言請無視（回應者也無視），並使用del或在貓管理部向管理員回報。新介面尚處於測試階段，如果有任何問題可以向管理員或於程設交流版反映。