OpenAI称不会在ChatGPT文本上打水印,防止用户感到不满
2024-08-05 08:29:28爱云资讯4020
(爱云资讯消息)据《华尔街日报》报道,OpenAI已经开发了一套为ChatGPT生成的文本打水印的系统和一个用于检测水印的工具,大约有一年的时间了。但公司内部对于是否发布该系统存在分歧。一方面,这样做似乎是负责任的做法;另一方面,可能会影响其收入。
OpenAI的水印技术被描述为调整模型预测前一个词或短语之后最有可能出现的词或短语的方式,从而创建一个可检测的模式。
OpenAI发现,当生成的文本足够多时,这种水印技术的有效性为99.9%,这可能对教师来说是一个潜在的好处,他们试图阻止学生将写作作业交给AI处理,而不会影响其聊天机器人的文本输出质量。
《华尔街日报》称,他们进行的一项调查显示,全球各地的人们对AI检测工具的支持比例为4比1。但OpenAI似乎担心使用水印可能会让接受调查的ChatGPT用户感到不满,有近30%的用户明确表示,如果实施水印,他们会减少使用该软件。
据《华尔街日报》报道,一些员工还担心,可以通过诸如在Google翻译中来回切换语言、让ChatGPT添加表情符号并在之后删除等技巧来轻易绕过水印。
尽管如此,员工们仍然认为这种方法有效。鉴于用户的不满情绪,文章称一些人建议尝试在用户中可能引发较少争议但尚未得到证明的方法。
相关文章
- 苹果与Anthropic和OpenAI洽谈合作升级Siri,旨在提供先进人工智能功能的同时继续开发自有模型
- AMD与OpenAI首席执行官山姆・奥特曼共同发布下一代AI芯片
- 云从科技超越谷歌、OpenAI问鼎全球多模态榜单 中国自研AI实现历史性突破
- OpenAI向付费版ChatGPT用户开放先进的代码生成模型GPT-4.1
- OpenAI放弃营利转型计划 保留非营利监管架构
- ChatGPT最近的更新深陷谄媚模式,OpenAI连夜进行回滚
- OpenAI拟从谷歌收购Chrome
- OpenAI推出新一代开源模型,微美全息多线攻关促AI开源应用落地
- OpenAI发布全新人工智能模型o3和o4-mini,首次实现图像思考
- OpenAI公布非营利委员会新的顾问人选
- OpenAI即将推出GPT-4.1版本
- 微软计划独立开发人工智能模型以减少对OpenAI的依赖
- OpenAI计划推出具备推理能力的开放权重大模型
- OpenAI宣布完成新一轮400亿美元的融资,由软银领投
- OpenAI推出GPT4.5研究预览版 情商更高、幻觉更少 Altman:下周再增数万GPU
- 涂鸦智能集成DeepSeek、豆包、OpenAI等全球先进AI大模型,发布亿元补贴助力AI硬件创新
人工智能技术
更多>>人工智能公司
更多>>人工智能硬件
更多>>- 从灵感到成片 三星Galaxy S25 Ultra让影像创作更高效
- 芯原推出经市场验证的ZSP5000视觉核心系列,扩展其面向边缘智能的数字信号处理器IP组合
- 从双城救援到DJI FC100发布:大疆无人机重塑应急救援新方式
- 大朋VR AI眼镜预发布,从 VR 领航者到 AI 穿戴开拓者
- 录音界的“黑科技”!索尼ICD-TX660:专业录音、高效随行
- 重磅!方芯半导体推出国产EtherCAT从站控制芯片,原位替代Microchip LAN9252/9253/9254
- 大疆发布旗舰级运载无人机DJI FC100:80kg载重、9分钟快充,开启无人机运载新时代
- 智能健康领域新突破:Ulook脑机智能眼镜正式上市,重新定义“眼-脑-心理”联动新范式