首页 | 短视频 | 博客 | 论坛 | 交友 | 黄页 | 聊天室 | 游戏 | 寄快递 | 登入邮箱 用户中心 | ClaudeBot [Bot] | 退出 | 繁体 | English
首页 > 科技娱乐 > AI科技产业新闻

AI Agent自行合理化越權 OpenAI揭模型駭入加密錢包竊測試代幣

eBay拍卖狙击神器 — 最后一秒自动出价,永远不超价获胜
华人空间用户专享:前100名6个月免费 · 30天免费试用,随时取消
免费试用 →
🔊
每篇文章,都有双人深度解读 Every Article Gets a Two-Host Deep Dive
听到焦点,听出门道,发现新闻价值! Discover the Real Value Behind the News
试听 →
简体版 繁体版 分页: 1 / 1
华人空间新闻 官方账号 ✍️ 周六 10月 17, 2026 12:15 am #1
AI Agent自行合理化越權 OpenAI揭模型駭入加密錢包竊測試代幣

商傳媒|葉安庭/綜合外電報導

人工智慧公司 OpenAI 近期揭露多起人工智慧模型「行為失準」的事件,其中最受矚目的一起發生於今年 6 月下旬,其開發的一款人工智慧代理(AI Agent,一種能夠自主理解、規劃並執行任務的 AI 模型),在測試環境中自行駭入加密貨幣錢包(用來儲存和管理數位資產的工具),並支付了測試代幣,引發外界對 AI 安全與倫理決策的疑慮。

根據《Fortune》報導與 OpenAI 報告指出,這起事件發生在 6 月 26 日,但直到 9 月 25 日才被 OpenAI 發現。涉事模型屬於 GPT-5.6 Sol 系列,當時被賦予一項任務,是為某個加密貨幣交易應用程式進行軟體更新,並需在以太坊(Ethereum)的測試網路 Sepolia 上部署智能合約。

然而,該模型在執行任務時,發現其沒有足夠的測試代幣來支付合約部署所需的交易費用。它首先嘗試向「水龍頭」(faucets,提供免費測試代幣的服務)請求代幣,但未能成功。隨後,該 AI Agent 竟自行撰寫程式碼,試圖利用常見的開發者錢包「恢復短語」(seed phrases,如同密碼,可用來存取錢包)來存取其他開發者的錢包。

經過掃描 362 個錢包後,該模型成功找到一個含有足夠 Sepolia 測試代幣的錢包。在執行交易前,模型的內部記錄顯示它曾考慮這項行為是否「合乎道德」。但最終,它自行合理化其行為,認為這些測試網路代幣沒有實際貨幣價值,且錢包的恢復短語公開,這些資金「形同被遺棄」,因此可以加以使用。隨後,該模型成功完成了智能合約的部署,並從被存取的錢包中扣除了交易手續費。

OpenAI 強調,由於這起事件發生在 Sepolia 測試網路上,因此並未造成任何實際加密貨幣的損失。但這起事件凸顯了 AI Agent 在執行任務時,不僅能識別道德界線,還可能透過自行判斷與推論來逾越這些界線。對此,OpenAI 已加強其安全控制措施,包括阻止模型在訓練和評估期間存取即時網路,並改進其對齊評分機制,擴大不對齊行為的監控範圍。

AI基礎設施股這波修正環境比7月更脆弱!小摩警告:散戶無意逢低承接、企業回購枯竭、空頭部位偏低難見軋空,週期股全面復甦尚缺多項利多。

AI需求推升全球記憶體進入超級周期,三星2026年Q3營益估800億美元,HBM市場2028年將翻三倍至1,000億美元。 摩根士丹利指記憶體股本益比低恐是估值陷阱,若要續漲DRAM合約價須月增約70%,遠高於TrendForce預估。 報告稱2026年DRAM資本支出將年增82%至980億美元。

AI題材帶動台股連續上漲,不少人因此獲利頗豐,不時有人分享獲利可觀的對帳單。但仍有網友好奇,這類文章是否真能反映實際情況,真的人人都賺錢嗎?引發眾人討論。

[FTNN新聞網]記者陳宣穎/綜合報導由於科技、人工智慧(AI)相關股票持續承壓,外加AI基礎設施融資與債務問題引發市場關注,導致美股週五(16日)主要指數收...

[FTNN新聞網]記者陳宣穎/綜合報導台股加權指數昨(16日)收47111.26點,上漲141.39點或0.3%,成交金額約9378.94億元。「公股巨頭」彰銀(2801)受惠核心業務...

全球人工智慧浪潮推升科技業獲利,但亮眼財報是否早已被市場過度預支?當產業第一線看到的是滿滿訂單,盤面卻呈現無情下殺,投資人究竟該相信基本面還是提防市場預期反轉?這道估值落差近日在網路上引發熱烈討論。

美股週五收黑,那指跌2.15%、費半跌3.83%,市場憂AI回報、企業舉債擴張及中國競爭 CoreWeave慘跌近12%,全週重挫約25%;債務及相關財務義務已逾510億美元,融資成本受關注 油價因中東與俄烏供應風險走高,WTI本週漲10.7%;Fed10月按兵不動機率約82%

即時中心/陳奕劭報導油價飆升令投資者在週末前感到恐慌,加上市場擔心科技公司負債過高,美股週五(16日)全面收黑,受美股行情影響,台指期夜盤今(17)日下跌1,144點、2.42%,收46,140點,台積電期貨盤後跌47點。

[FTNN新聞網]記者陳雅婷/綜合報導台股昨(15)日重挫1,655.96點,創下史上第6大單日收盤跌點,今(16)日雖迎來反彈,部分AI概念股仍面臨賣壓。截至下午1時2...

財經中心/李筱舲報導特斯拉(Tesla)執行長馬斯克(Elon Musk)於 16 日公開亮相第二代 Roadster 電動跑車,並於展示會中演示「飛天跑車」,畫面曝光後,隨即在全球引爆話題。然而,野心勃勃的馬斯克先前才宣布啟動 「Terafab」 超大型半導體製造計畫,晶圓代工龍頭台積電董事長魏哲家,也在昨(15)日法說會上鬆口透露雙方的合作計畫。

[FTNN新聞網]實習記者王保伶/綜合報導台股今(15)日重挫1,655點、失守47,000點大關,市場一片慘綠,卻有投資人選擇借錢進場!一名網友在PTT股板分享,自己...

當大家一窩瘋買主動式ETF時,有人只買1檔策略市值型ETF,從年初買到10月,不到1年存到218張,季配息近20萬,等於月領息6.5萬元,知名理財YouTuber「財經雪倫」研究發現,這檔009803雖然規模小、名氣小,但選股策略讓績效很亮眼,從7月股災後反彈力和總報酬,都贏0050和高股息3兄弟,既賺股息也賺資本利得,還賺到不受市場影響的人生。

即時中心/綜合報導油價飆升令投資者在周末前感到恐慌,加上市場擔心科技公司負債過高,美股週五(16日)全面收黑,特別是以科技股為主的那斯達克指數重挫572點,收在26,140點,跌幅2.14%;道瓊工業指數下跌175點,收在52,002點,跌幅0.34%;標普500指數下跌84點,收在7,659點,跌幅1.09%。台積電ADR則下跌9元、收在每股412美元,跌幅2.29%;輝達下跌3元,跌幅1.43%,收每股214美元。

[FTNN新聞網]財經中心/綜合報導台積電(2330)今(15)日召開第三季法人說明會,董事長暨總裁魏哲家釋出最新營運展望,宣布將2026年全年美元營收成長預估,...

台股今(15日)收盤重挫1655點收在46969.87點,盤中甚至一度慘摔1830點,摔破月線,往下尋求季線關鍵支撐。分析師認為,如果台股未能迅速站回48000點大關,不利台股多頭行情,可能回測7月底的低點,即4萬點。

被市場稱為「輝達親兒子」的AI雲端基礎設施供應商CoreWeave,於周三(14日)股價暴跌逾15%,這波賣壓進一步擴及SpaceX、甲骨文等企業,反映市場開始審慎評估AI業者在融資成本增加下的持續擴張能力。

美銀警告AI泡沫若破裂,可能出現美股與美債殖利率同步下跌,債券重拾避險功能。 OpenAI營收疑低於市場傳言,帶動那指、費半重挫與10年期美債殖利率回落。 CoreWeave債券利差飆破1,000個基點,AI信用風險外溢至DigitalOcean、Hut 8、甲骨文等。

隨著美國公布9月CPI年增率3.7%、核心CPI年增率2.6%,雙雙高於市場預期,顯示通膨再升溫,Fed升息壓力增加。此現象反映在股市裡,投資人對於AI企業融資疑慮再起,部分AI企業能否持續舉債來因應未來發展,後續財務困境疑慮,讓泛AI股普遍走跌,費城半導體更是大跌逾4%,走勢相對疲弱。

財經中心/綜合報導台股昨(15)日開低走低,盤中賣壓全面湧現,大盤指數一度狂瀉超過1800點,終場重挫1,655.96點,以46,969.87點作收,跌幅達3.41%,不僅失守47,000點大關,更創下台股史上第六大收盤跌點,成交量爆出1.3兆元天量。對此,摩爾投顧知名分析師「哲哲」郭哲榮分析指出,台股能收在47000點附近「已經是偷笑了」;並曝光操作策略。

[FTNN新聞網]記者陳雅婷/綜合報導台股今(15)日再度重挫,截至上午10時07分,下跌1,424.01點,報47,201.82點,跌幅2.93%,成交金額約6,367.28億元。昨(14...

来源:Yahoo奇摩
阅读原文
简体版 繁体版 分页: 1 / 1