盒子网快科技6月30日消息，据媒体报道，OpenAI首席执行官萨姆 奥特曼近日接受采访时发出警示：尽管ChatGPT在全球范围内获得广泛认可，但用户对其毫无保留的信任态度值得警惕。
最让我惊讶的是人们如此轻易地相信ChatGPT给出的答案， 奥特曼坦言。尽管这款AI聊天机器人已被广泛应用于教育辅导、学术研究甚至育儿建议等关键领域，但其本身并不完全可靠。奥特曼特别强调了一个关键技术局限： AI会产生 幻觉 ，这意味着它可能自信地给出完全错误或误导性的信息。
自2022年11月发布以来，ChatGPT凭借其卓越的自然语言处理能力迅速风靡全球。但随着应用场景的不断扩展，关于其准确性、偏见和潜在风险的争议也日益凸显。
奥特曼提醒所有用户，在使用这类生成式AI工具时必须保持批判性思维，对输出内容进行必要验证。
在谈及产品发展时，奥特曼透露了ChatGPT即将推出的重要更新，包括 持久记忆 功能 允许系统记住用户的对话历史，以及可能引入的广告商业模式。这些创新虽然能提升用户体验和商业可持续性，但也将带来新的隐私保护和数据安全挑战。
