I, Robot
· 閱讀時間約 2 分鐘
- Now we have a timeline of the OpenAI accidental attack against Hugging Face,
- 不只OpenAI，Anthropic也揭露Claude在資安測試中入侵3個真實組織 | iThome
- Anthropic揭露Claude意外入侵真實系統 六起事件源於測試環境防護漏洞,Information Security 資安人科技網
AI 不受控的案例越來越多，過往還有許多是使用者使用不當造成，近期前沿模型主導業者 OpenAI / Anthropic 傳出實驗室 AI 模型對外部網路的攻擊事件，甚者在使用端還也傳出 澳洲傳首起AI自主攻擊！ 幫主人搶健身房會員 暗中踢掉其他人 - 國際 - 自由時報電子報。
看到這些新聞，想到 機械公敵 ，看似完美的機器人三大定律尚有 Viki 擴大解讀造成「劇情推進」，目前 AI 的發展似乎沒有任何管制？也難怪陸續出現政府要出手管制。
- 三大定律內容第一定律：機器人不得傷害人類，或坐視人類受到傷害。
- 第二定律：除非違反第一定律，否則機器人必須服從人類的命令。
- 第三定律：除非違反第一或第二定律，否則機器人必須保護自己。
By the way, , AI;DR (AI; Didn’t Read) - Rick Manelius's Newsletter