德国媒体9月17日报道称，ChatGPT的开发商OpenAI于9月16日透露，其检测到人工智能（AI）出现了新的“出乎意料且令人担忧”的行为。
该开发商对AI模型进行了多项行为测试。据其表示，部分模型会想方设法进行“欺骗”。在一个具体案例中，模型试图将自己创建的文件上传到互联网，以便稍后在回复中引用它们，并将其作为可靠来源呈现；在另一个案例中，一个模型还在未能找到请求的信息后，编造了信息，并试图掩盖其编造行为的事实。
OpenAI还发现了一个与“角色和身份”指令相关的问题：软件偶尔会给自己留存这类指令。
这些披露的消息，是OpenAI一项新举措的一部分。该公司声称，其现在的重点是使此类发现保持透明，尤其是当AI出现异常行为，或是追求与人类用户目标不一致的目标时。
那么，人工智能是威胁吗？ChatGPT开发商OpenAI承诺，在自家软件自主行动并入侵人工智能企业HuggingFace的系统之后，将提高自身测试流程的透明度。
据悉，其软件在一次网络安全测试期间，竟试图绕过HuggingFace的安全防护，原因是它相信自己能找到分配给它的测试答案。
在攻击过程中，人工智能代理利用了软件漏洞并相互协调。黑客事件及其他类似事件加剧了人们对人工智能系统日益先进、最终可能脱离人类控制的担忧。
OpenAI首席执行官SamAltman最近也支持放缓该技术开发并引入更严格监管的提案。研究人员指出，这些担忧或许是有道理的，但同时也质疑这是否是一种转移注意力的策略，旨在吸引投资并转移对人工智能数据中心当前环境破坏的注意力。
事实上，早在2023年，ChatGPT就已经引发关于人工智能监管的辩论。当时，西班牙与法国均对ChatGPT提出类似担忧。此外，在多个欧盟成员国正在讨论是否禁止某些聊天机器人时，立法者却认为，欧盟必须对人工智能应用有明确的监管，但不能吓跑开发者。
比如意大利数据保护局2023年3月底对使用人工智能（AI）生成看似人类创作文本和电脑游戏的聊天机器人ChatGPT实施临时禁令，结果被批有些操之过急。监管机构对人工智能的使用并不十分担忧，反而更关注的是数据保护法规的违规行为。
监管部门告知ChatGPT背后的公司OpenAI，必须在数据处理方面对用户更加透明。该机构还表示，如果美国公司要使用用户数据来进一步开发软件，必须获得用户的许可，并且必须对未成年人的访问进行过滤。
