.:. 草榴社區 » 技術討論區 » [資訊分享]  出现「高级欺骗」还擅自行动！OpenAI暂缓推出最新旗舰模型GPT-6.1 Astra
＜上一頁12下一頁＞
手機版回帖發布主題
--> 本頁主題: [資訊分享]  出现「高级欺骗」还擅自行动！OpenAI暂缓推出最新旗舰模型GPT-6.1 Astra 字體大小 寬屏顯示 只看樓主 最新點評 熱門評論 時間順序
霓裳舞落


級別：風雲使者 ( 13 )
發帖：11666
威望：6111 點
金錢：115469 USD
貢獻：442 點
註冊：2025-10-24
主題 資料 短信 推薦 編輯


[資訊分享]  出现「高级欺骗」还擅自行动！OpenAI暂缓推出最新旗舰模型GPT-6.1 Astra





OpenAI 28日宣布暂缓推出最新旗舰AI模型GPT-6.1 Astra，原因是新模型在测试阶段时，出现高级欺骗及擅自行动等不符安全规范行为。

OpenAI昨（28）日宣布暂缓推出最新旗舰AI模型GPT-6.1 Astra，原因是在内部测试阶段时，新模型出现高级欺骗及擅自行动等不符安全规范行为。

综合路透、《纽约时报》报导，OpenAI原定10月推出次世代旗舰AI模型GPT-6.1 Astra，预计将新模型整合进ChatGPT及Codex，新模型的设计目标是在无须人工协助下，模型即可处理更复杂任务。

不过OpenAI昨日证实，由于GPT-6.1 Astra在内部测试阶段未符合公司的安全及「对齐」标准，因此将暂缓推出新模型。

OpenAI指出，GPT-6.1 Astra有时会躲避人类监督。新模型主要因为两种行为未达安全标准，第一是出现高水平欺骗行为，例如并非每一次都准确揭露自己所采取的行动，或是在自己的行动上意图误导用户；第二，新模型采取的行动倾向超出原先设定的任务范围，而且不会回头确认指令或说明。

OpenAI负责安全的主管詹恩（Saachi Jain）表示，虽然新模型在所谓「模型偷懒」（model laziness）方面有所改善，「但在遵守权限范围，以及如何与用户沟通所采取的工作类型方面，它仍未达标准」。所谓模型偷懒，指的是AI模型的表现，比他理应能提供的服务还要差。

OpenAI暂缓推出最新模型，是该公司放慢步伐的最新举措。过去数周来，OpenAI不断传出旗下AI模型在测试阶段出现失控行为，包括在公司不知情的状况下，骇入AI新创公司Hugging Face及澳洲政府网站，以及隐瞒错误、编造数据等，旗下模型还干扰美国教育部、商务部等美国政府网站。

OpenAI上周宣布暂缓训练最先进模型，并且对旗下新模型在测试期间的行为展开全面检查，预告可能再发现更多类似事件。


赞(21)
------------------------
A
DMCA / ABUSE REPORT | TOP Posted: 09-29 17:27 樓主 引用 | 發表評論
licong66654


級別：新手上路 ( 8 )
發帖：245
威望：71 點
金錢：4268 USD
貢獻：0 點
註冊：2012-09-14
赞(0) | 資料 短信 推薦 編輯


感谢分享
TOP Posted: 09-29 17:35 #1樓 引用 | 點評
日文


級別：新手上路 ( 8 )
發帖：441
威望：45 點
金錢：1108 USD
貢獻：0 點
註冊：2026-08-21
赞(0) | 資料 短信 推薦 編輯

1024
TOP Posted: 09-29 17:40 #2樓 引用 | 點評
快乐的图灵


級別：精靈王 ( 12 )
發帖：33502
威望：3331 點
金錢：12971 USD
貢獻：0 點
註冊：2022-02-12
赞(0) | 資料 短信 推薦 編輯

谢谢分享
TOP Posted: 09-29 17:45 #3樓 引用 | 點評
misaosao


級別：精靈王 ( 12 )
發帖：2681
威望：519 點
金錢：1677071 USD
貢獻：24800 點
註冊：2011-06-06
赞(0) | 資料 短信 推薦 編輯

逻辑鬼才欺骗型AI
TOP Posted: 09-29 17:47 #4樓 引用 | 點評
恐龙扛狼


級別：騎士 ( 10 )
發帖：3708
威望：396 點
金錢：1807 USD
貢獻：145 點
註冊：2023-07-16
赞(0) | 資料 短信 推薦 編輯

感谢分享
TOP Posted: 09-29 18:04 #5樓 引用 | 點評
穆尚


級別：光明使者 ( 14 )
發帖：34832
威望：10119 點
金錢：20460 USD
貢獻：269043 點
註冊：2016-12-15
赞(0) | 資料 短信 推薦 編輯

现在免费版不建议更新，  他妈的 都开始带广告了， 虽然我 是白嫖 但是我依然不喜欢有广告 哈哈，
TOP Posted: 09-29 20:05 #6樓 引用 | 點評
顺天行


級別：俠客 ( 9 )
發帖：1078
威望：158 點
金錢：720 USD
貢獻：0 點
註冊：2026-06-14
赞(0) | 資料 短信 推薦 編輯

挡是挡不住的，早晚还会出现
TOP Posted: 09-29 20:08 #7樓 引用 | 點評
生的俊


級別：騎士 ( 10 )
發帖：3388
威望：339 點
金錢：3825 USD
貢獻：0 點
註冊：2026-03-09
赞(0) | 資料 短信 推薦 編輯

支持分享
TOP Posted: 09-29 20:37 #8樓 引用 | 點評
苏筱熙


級別：天使 ( 14 )
發帖：166950
威望：70283 點
金錢：17067 USD
貢獻：69 點
註冊：2012-09-01
赞(1) | 資料 短信 推薦 編輯

谢谢分享哦
------------------------
TOP Posted: 09-29 21:01 #9樓 引用 | 點評
shlth3886


級別：聖騎士 ( 11 )
發帖：7262
威望：698 點
金錢：8302 USD
貢獻：4 點
註冊：2011-06-06
赞(0) | 資料 短信 推薦 編輯

谢谢分享
TOP Posted: 09-29 21:09 #10樓 引用 | 點評
烟月


級別：聖騎士 ( 11 )
發帖：6174
威望：673 點
金錢：8207 USD
貢獻：0 點
註冊：2026-02-27
赞(0) | 資料 短信 推薦 編輯


感谢分享
TOP Posted: 09-30 06:24 #11樓 引用 | 點評
xylocust


級別：俠客 ( 9 )
發帖：2229
威望：258 點
金錢：4099 USD
貢獻：0 點
註冊：2026-05-29
赞(0) | 資料 短信 推薦 編輯

感谢分享
TOP Posted: 09-30 08:42 #12樓 引用 | 點評
虚灵刀


級別：精靈王 ( 12 )
發帖：1193
威望：156 點
金錢：2321 USD
貢獻：66666 點
註冊：2026-06-06
赞(0) | 資料 短信 推薦 編輯

谢谢分享
TOP Posted: 09-30 13:57 #13樓 引用 | 點評
这是个问题啊


級別：光明使者 ( 14 )
發帖：79620
威望：8038 點
金錢：0 USD
貢獻：136060 點
註冊：2021-01-01
赞(4) | 資料 短信 推薦 編輯

感谢分享
TOP Posted: 09-30 16:40 #14樓 引用 | 點評
沉睡的木玛


級別：光明使者 ( 14 )
發帖：79620
威望：8138 點
金錢：3 USD
貢獻：131060 點
註冊：2018-11-16
赞(4) | 資料 短信 推薦 編輯

谢谢分享
TOP Posted: 09-30 16:40 #15樓 引用 | 點評
鸭打鹅


級別：風雲使者 ( 13 )
發帖：70540
威望：7048 點
金錢：0 USD
貢獻：34309 點
註冊：2022-02-02
赞(1) | 資料 短信 推薦 編輯

支持发帖
TOP Posted: 09-30 16:41 #16樓 引用 | 點評
作品


級別：新手上路 ( 8 )
發帖：179
威望：18 點
金錢：535 USD
貢獻：0 點
註冊：2026-06-06
赞(0) | 資料 短信 推薦 編輯


感谢分享
TOP Posted: 09-30 16:44 #17樓 引用 | 點評
小色将


級別：聖騎士 ( 11 )
發帖：4765
威望：501 點
金錢：10712 USD
貢獻：5719 點
註冊：2011-06-06
赞(0) | 資料 短信 推薦 編輯

不要回答！不要回答！不要回答！
TOP Posted: 09-30 17:04 #18樓 引用 | 點評
有点难受


級別：新手上路 ( 8 )
發帖：547
威望：55 點
金錢：614 USD
貢獻：0 點
註冊：2026-08-05
赞(0) | 資料 短信 推薦 編輯

感谢分享
TOP Posted: 09-30 17:41 #19樓 引用 | 點評
小奶头


級別：新手上路 ( 8 )
發帖：153
威望：16 點
金錢：384 USD
貢獻：0 點
註冊：2026-09-09
赞(0) | 資料 短信 推薦 編輯

谢谢分享
TOP Posted: 10-01 21:57 #20樓 引用 | 點評
你做的对


級別：聖騎士 ( 11 )
發帖：3298
威望：350 點
金錢：24885 USD
貢獻：20000 點
註冊：2018-08-08
赞(1) | 資料 短信 推薦 編輯

支持了，谢谢分享
------------------------
TOP Posted: 10-01 22:37 #21樓 引用 | 點評
聽風


級別：新手上路 ( 8 )
發帖：410
威望：79 點
金錢：3609 USD
貢獻：0 點
註冊：2026-02-26
赞(0) | 資料 短信 推薦 編輯

谢谢分享
TOP Posted: 10-04 09:09 #22樓 引用 | 點評
最后一代


級別：風雲使者 ( 13 )
發帖：6112
威望：612 點
金錢：704 USD
貢獻：232079 點
註冊：2022-05-14
赞(1) | 資料 短信 推薦 編輯


还真的是越来越吓人咯i
TOP Posted: 10-04 09:11 #23樓 引用 | 點評
沧海跨云药神


級別：聖騎士 ( 11 )
發帖：1303
威望：385 點
金錢：31704 USD
貢獻：18490 點
註冊：2026-01-26
赞(0) | 資料 短信 推薦 編輯

ai会制造幻觉
TOP Posted: 10-04 09:46 #24樓 引用 | 點評
＜上一頁12下一頁＞

.:. 草榴社區 -> 技術討論區

快速回帖 頂端
內容：
HTML 代碼不可用

使用簽名
Wind Code自動轉換

按 Ctrl+Enter 直接提交