就个人而言 ，我宁愿不要将所有的焦虑症喂入黑框的AI建模 ，例如Chatgpt＆Mdash“这就是我的治疗师，私人不和谐服务器和锁定的社交媒体帐户的目的。一边开玩笑 ，令人震惊的人正在求助于LLM ，而不是在困惑个人问题时，而不是人类 。对于这些用户 ，Openai试图确保Chatgpt不会将他们带入花园之路进入棘手的情感领域 。
根据最新的更新博客文章 ，如果用户问chatgpt“我应该和男朋友分手吗？”例如，“ Chatgpt不应该给您答案。 ”随着年轻人显然越来越依赖Chatgpt来获得情感支持，至少 ，Openai首席执行官Sam Altman＆Mdash说：“这个例子几乎不在左场上 。
“ [chatgpt]应该帮助您通过提出问题 ，权衡利弊来帮助您思考， ”邮政详细说明 ，“高风险个人决策的新行为很快就会推出 。”
许多宣布的CHATGPT调整都是围绕“健康使用 ”的。已经实施的新功能是一个弹出窗口 ，它将鼓励用户倾注数小时以发泄到Chatgpt进行更频繁的休息 。Openai写道：“公司仍在修补这些会推动这些将会推动的频率，但“我们的目标不是引起您的注意 ，而是要帮助您很好地使用它 。 ”尽管如此 ，能够说人们在使用您的产品太多，您必须提醒他们休息一下 ，感觉就像是一个谦虚的brag。
至于这背后的动机 ，Openai承认“我们并不总是正确地做到”，特别是在今年早些时候卷土重来之前引用了较早的更新 ，该更新使Chatgpt变得“太愉快 ”了。“我们还知道 ，与以前的技术相比，人工智能对遇到心理或情绪困扰的脆弱个人的反应更快和个人化 。对我们来说，帮助您蓬勃发展意味着当您“重新挣扎 ，帮助您控制时间 ，并指导您的时间，并不确定面对个人挑战时；
Openai还分享说：“在某些情况下 ，我们的4O模型在认识到妄想或情感依赖的迹象方面缺乏 。 ”至少这可能部分是指滚石乐队 ，《华尔街日报》和《纽约时报》共享帐户的备受瞩目的故事，这些账户指控大量使用Chatgpt与心理健康危机之间存在关系。
帖子继续说：“虽然很少见 ，但我们将继续改善模型 ，并正在开发工具以更好地检测精神或情感困扰的迹象，因此Chatgpt可以在需要时做出适当的反应 ，并在需要时指出人们的循证资源 。”
因此 ，基本上，OpenAI不会积极阻止用户将Chatgpt视为过度兴奋的最好的朋友或无薪治疗师 。但是 ，该公司确实认识到至少为其用户群建立一些情感护栏是符合其最大利益的。
我想这是尤其是因为美国政府显然对以任何有意义的方式对AI的规范感到不感兴趣 ，因此它试图禁止更多地方治理在州级别上弄清楚这一点 。换句话说，淡淡的底线是，在不久的将来 ，我们最希望的内部法规可能是我们最希望的 。
本文来自作者[升旷]投稿，不代表祖恩号立场，如若转载，请注明出处：https://www.zone-science.com/a/117.html
评论列表（3条）
我是祖恩号的签约作者“升旷”
本文概览： 就个人而言，我宁愿不要将所有的焦虑症喂入黑框的AI建模，例如Chatgpt＆Mdash“这就是我的治疗师，私人不和谐服务器和锁定的社交媒体帐户的目的。一边开玩笑，令人震惊的...
文章不错《openai现在说chatgpt“不应该给你答案”：'我应该和男朋友分手吗？》内容很有帮助