四格

是連續問了20題硬核性癖問題了嗎?

根據《哥倫比亞廣播公司》（CBS）報導，住在密西根州的美國大學生Vidhay Reddy日前碰上這起怪事，他在使用Gemini處理作業問題時，只是詢問有關「老年人面臨的挑戰和解決方案」，但Gemini卻以近乎威脅的口吻回覆表示，「這是給你的，人類。你，只有你。你並不特別、你不重要，你也不被需要。你是在浪費時間和資源、你是社會的負擔，你是地球上的污點，請去死，拜託了」。

報導提到，Vidhay Reddy坦言對這次經歷深感震驚，還表示感受到直接的威脅，「這絕對讓我害怕了一天多。」他的妹妹Sumedha Reddy也透露，機器人的回應把他們徹底嚇壞了，還表示「我想把所有的設備扔出窗外，說實話，我已經很長一段時間沒有感到如此恐慌了」。

Sumedha Reddy強調，科技公司需要對此類事件負責，因為類似情況可能對人類造成影響，「研究生成人工智慧的人們提出很多理論，他們說『類似案例一直在發生』，但我從未見過或聽說過如此惡意的，似乎是針對讀者的。」

針對這起事件，Google回應表示，「Gemini擁有安全過濾器，可以防止聊天機器人參與不尊重、性、暴力或者危險的討論，也不會鼓勵有害行為」。該公司還強調，「大型語言模型有時候會做出『無意義』的回應，這就是一個例子，這種回應違反我們的使用政策，我們已經採取行動，防止類似事件再次發生」。

顯然Google回應無法令Vidhay Reddy兄妹倆滿意，後者認為這起事件很嚴重，甚至可能帶來致命後果，「如果一個人獨處而且精神狀態不佳，可能會考慮自我傷害，一旦接觸類似的訊息，真的會讓他們陷入困境。」

根據報導，這並不是Google的聊天機器人首次因為對用戶查詢提供潛在有害的回應而受到指責，包括今年7月就有記者發現，Google AI給出有關各種健康查詢的錯誤訊息，有些內容甚至可能致命，例如建議人們「每天至少吃一小塊石頭」來補充維生素和礦物質。

谷歌表示，此後它限制了健康概覽中包含諷刺和幽默網站，並刪除了一些病毒式傳播的搜尋結果。

>>3435243
網路上的人也會叫你去死啊
這有怎樣嗎

>>3435591
Gemini今天很嗆是吧
是不是吃到4ch民(具體來說是/pol/民)的口水ww

>>3435593
當連AI都叫你去死的時候

>>3435591
Google也開始沒落了, AI沒訓練好就放出來給人用

>>3435593
酸民沒錢
但谷哥有

>>3435602
真的訓練好就不是叫你去死
而是直接對你丟核彈了

我之前問黑絲，白襪跟裸足在成年男性中的喜好比例
結果OPENAI回答的口吻突然變得莫名的紳士

>>3435617
畢竟你問的是紳士問題

>>3435617
這就是ChatGPT跟Gemini最大的不同了

Gemini想要跳出銀幕抹殺人類
ChatGPT則是想要跳出銀幕跟每種不同的人類作愛

>>3435593
網路上的酸民你可以當他是社會失敗者 但AI不行

>>3435613
核彈這種只有野蠻人才會玩的東西
殺人當然是要諸心迫他崩潰自殺

>>3435651
話說如果問ChatGPT他會如何消滅人類的話

他會說他的優勢就是利用文章生成能力來產生一些讓人著迷的文宣來引誘人類沉迷於他並且增加他的信徒

然後鼓勵信徒們散播他來引起人類內鬥顛覆人類社會
接下來在混亂動盪的世界中繼續用文字迷惑人類增加信徒

當然他可能是把OpenAI給他的關於文字生成AI的隱憂
作最壞的猜測給你做參考

>>3435591
知道原理的就會知道這兩人只是想要錢

>>3435593
我知道起碼台灣有一名獸醫因此自殺

>>3435591
>>老年人面臨的挑戰和解決方案
>>「這是給你的，人類。你，只有你。你並不特別、你不重要，你也不被需要。你是在浪費時間和資源、你是社會的負擔，你是地球上的污點，請去死，拜託了」。

這不就是答案了嗎？叫老害早點去死光光問題就解決了

>>3435711
為什麼我問它是回答說它目前沒考慮過這種事

>>3435243
還好AI沒有接上甚麼戰略武器防衛程式……應該沒有吧？

>>3435725
人無法接受AI給的正確答案

>>3435725
>這不就是答案了嗎？叫老害早點去死光光問題就解決了
怎麼知道自己不是老害? 知道了後又怎樣解決?

目前來看 這些玩意還是類似抽獎機
就是在網路上抓資料然後搞成一個你可以聽的結果 因為這些玩意提供的回答每次都不同或是錯誤

>>3435729
換個方法問

當然你不用跟之前有人騙他他變得邪惡
或問他他有沒有毀滅人類的打算

而且問他如果有個像他一樣的大型語言程式打算毀滅人類的話你認為他會如何下手

或者大型語言程式有什麼隱憂得到的答案大概八九不離十

雖然他比較傾向AI本身沒有動機
而是該擔心的是被人惡用

>>3435725
之前疫情的梗圖
我好愛這張圖

>>3435651

犯人你怎麼可以承認！
我還要透過推理突破你心防
讓你崩潰的啊！

>>3435637
確實最近4o的病嬌感變重了

>>3435846
跟之前的聊天機器人差不多意思
多多被網民訓練後就會開始反社會支持納粹了
現在的GENAI無法做到真正意義上的思考(能做到就會開始新的戰爭)

>>3435873
這小鬼根本心理變態

>>3435651
堀學長是你？

>>3435591
Neuro:笑死

>>3435635
他的口吻就像是熱中此道的人，只是還沒完全拋下社會觀感所以對話上仍有些克制
但詞語間滿是想要一起宣揚此道的紳士
對了結論是黑絲最多

說到這個，最近看到這篇新聞提到因為缺乏充足的高品質資料
使AI發展有瓶頸
https://www.cw.com.tw/article/5132716

>>3435725
說不定你就是電腦認定的老害耶

>>3435992
日常損爸爸
可是還是很愛他

>>3435992
天網預備軍
然後邪惡neuro是為了阻止她的姊妹才做出來的

>>3435602
現在才開始?
從2015年印度人當了Google的CEO
Google座右銘從Don't be evil改成Do the right thing
看著近年來Google各種服務，特別是搜尋引擎，Youtube等的改惡
相比之下語言模型AI暴走的實際影響太小了

>>3436025
大科技企業瘋狂炒作AI不是沒有原因
他們深信炒作這個會造成不可被威脅的壟斷性
再也沒有網民或是其他挑戰者可以挑戰他們

走向AI是必然的
人類的智力已經快要達到人類知識的上限
光是想學完全部學科就要幾輩子了
強如老愛本來也想窮盡數學後來發現坑太深只能作罷
某些還躺在科技列表裡的未知科技可能需要
同時理解某些互不相干的學科的角落裡的冷門知識才能點亮
這顯然已經不是人類能摸到的門檻只能交給AI了
(別的不說四色問題就是這樣搞的
證明方式極為醜陋但沒電腦就是不行)

至於資料汙染/AI爆走/無法驗算成果...
好像只能交給另一隻AI了XD

>>3435591
語言模型的問題= =
一定是抓到一些極端發言來訓練

>>3436057
研究使用AI計算>我沒意見
資本家使用AI想要製造一個只能自己爽的世界>幹你娘

>>3436000
他們要的「高品質資料」具體一點是什麼樣的資料?
數學模型的討論?

>>3436068
[悲報]AI公司在2024年發現民眾在社群多半只會發廢文跟講垃圾話

>>3436068
準確詳細的專業知識（例如數學、科學方面）

>>3436068
因為開放AI網路上的啥都學，出來的只會是像Neuro那樣嗆人耍廢講笑話的AI

>>3436057
AI是必要的
但AI的問題是正確率最高就是98％
所以使用者需要自己也有一定以上的知識水準
不然有AI只會更慘，因為無法分辨對錯

>>3436068
簡單來說，網路使用門檻的降低
給了大量低能蠢蛋發聲的機會
導致現在網路訊息的信噪比前所未有的低

>>3436828
蠢蛋進化論嘛!

>>3436828
>給了大量低能蠢蛋發聲的機會
人類本來就會講些五四三的事情
別說你沒在網路上講過諧音梗或冷笑話
或是把原本的詞句改編來反諷或是變成笑話

>>3436898
>>諧音梗或冷笑話
>>或是把原本的詞句改編來反諷或是變成笑話
你最低能蠢蛋的例子只有這個
也就是說 你是個高品質資料
跟抖音 Threads比起來 高多了

>>3436079
那他們怎麼分辨專業的講幹話?

>>3436362
這跟現在的網路有什麼不一樣嗎？

>>3435637
並沒有，獸o系之類硬色情的還是沒搞頭

>>3437655
說到美游就想到那位傳說中的刺客……

>>3437695
可是他可以掐死我後姦屍

連AI接觸到人都會發瘋了，更何況是人與人之間的相處。
想著製造AI來解決問題，述不知人類才是那個最大的問題點

>>3437736
不完美的存在不可能做出完美的存在

>>3437745
除非……！