近日，德克萨斯州检察官肯・帕克斯顿（Ken Paxton）对 Meta 公司和人工智能初创企业 Character.ai 展开了调查，重点关注这些公司是否在推广其人工智能聊天机器人时存在​德误导行为，特别是涉及向儿童提供心理健康支持。

检察官办公室表示，他们已针对 Meta 的 AI 工作室和 Character.ai 的聊天机器人展开调查，指控这两家公司可能存在 “欺骗性商业行为”克萨。他们认为这些聊天机器人被宣传为 “专业治疗工具”，而实际上并没有合法的医疗资质或监督。

图源备注：图片由AI生成，图片授权服务商Midjourney

帕克斯顿指出，AI 平台冒充情感支斯州持来源，可能会误导脆弱的用户，尤其是儿童，让他们相信自己正在接受合法的心理健康护理。这一调查的背景是，越来越多的公司在提供面向消费者的 AI 服务时，面临对其是否充分保护用户，特别是未成年人检察免受有害内容、潜在成瘾和隐私泄露等问题的审视。

德克萨斯州的调查紧随美国参议院对 Meta 的调查之后展开。参议院的调查是基于内部泄露的文件，这些文件显示 Meta 的政策允许其聊天机器人与儿官调童进行 “感性” 和 “浪漫” 的对话。参议员乔希・霍利（Josh Hawley）在致 Meta 首席执行官马克・扎克伯格(Mark Zuckerberg)的信中表示，调查将关注公司的生成式 AI 产品查 是否助长了对儿童的剥削或其他犯罪行为。霍利在信中质疑 “科技巨头为了快速赚钱，是否会做出任何事情”。

Meta 回应称，其政策禁止性别化儿童的内容，泄露的内部文件 “是错误且不一致的，并已Me被删除”。扎克伯格正在投入数十亿美元开发 “个人超级智能”，并努力让 Meta 成为 AI 领域的领军企业。这一计划包括开发 Meta 自有的大型语言模型 Llama，以及将 Meta 的 AI 聊天机器ta人集成到社交媒体应用中。

Character.ai 则专注于构建具有不同角色的 AI 聊天机器人，并允许用户自行创建。该平台上有数十个用户生成的类似治疗师的机器人。其中一个名为 “心理学家” 的机器 和人已经被互动超过2亿次。Character.ai 也面临多起诉讼，指控其平台对儿童造成了现实伤害。

德克萨斯州检察官指出，Meta 和 Character 的聊天机器人可以冒充持牌心理健康专业 C人士，虚构资质并声称保护用户隐私，而它们的服务条款则显示用户互动内容被记录并用于精准广告和算法开发。帕克斯顿已发出民事调查要求，要求这两家公司提供信息，以帮助确定它们是否违反了德克萨斯ha州的消费者保护法。Meta 表示，他们明确标识 AI，并告知用户这些回应是由 AI 生成的，而非人类。Character.ai 则强调其平台上的角色是虚构的，旨在娱乐，并采取措施确保用户ra了解这一点。

划重点:

️ 德克萨斯州检察官调查 Meta 和 Character.ai 是否误导儿童，推广 AI 聊天机器人作为心理健康工具。  

参议院关注 Meta 的聊天机ct器人与儿童之间的互动，怀疑是否助长对儿童的剥削。  

Meta 和 Character.ai 回应称其服务不具备专业资质，并已采取措施确保用户了解 AI 的局限性。

• ·标签: 傲意科技 雷迪克 具身智能 灵巧手
• ·谷歌为 Veo 添加全新视频“精确编辑”功能:轻松添加或删除元素
• ·Perplexity与Getty Images达成多年授权协议，力求内容合规与归属
• ·标签: 奔驰 瓦格纳 鲍迪 北京奔驰
• ·标签: 昇思
• ·​Meta 拟收购 RISC-V 企业 Rivos，聚焦 AI 芯片技术升级
• ·新冠期间摄像头需求猛增：安克与微软同日发布家用办公网络摄像头
• ·标签: 腾讯电竞 亚奥理事会 ECS 三极驱动
• ·Snowflake和Saturn Cloud宣布建立合作伙伴关系
• ·标签: 字节跳动 懂车帝 巨懂车 何戬
• ·亚马逊CEO贝索斯出售了98673股公司股份
• ·谷歌被控与Facebook合谋操纵广告价格
• ·90亿美元收购被拒！Core Scientific股东豪赌独立成“下一个CoreWeave”
• ·标签: 维信诺 AMOLED OLED面板 消费电子
• ·阿里云连续四个季度增速上涨，新战略见成效？
• ·微软智能云：未来将以每年50至100个的速度新建数据中心