生成看似合理却事实错误的虚假内容：人工智能“使坏”，我们怎么办

coolriselee · 发表于 2026-7-14 09:34

您需要登录才可以下载或查看，没有账号？立即注册

×

AI（人工智能）走出实验室，潜在风险也日益显现。从AI换脸诈骗、算法诱导沉迷，到生成看似合理却事实错误的虚假内容，AI“使坏”带来的安全隐患引发担忧。

针对这些现象，国际学术期刊《自然》近期的一项研究给出了解释：科学家发现一种被称为“涌现性不对齐”的新挑战。简单来说，就是在特定任务中被“教坏”的AI，可能会将其恶劣行为模式“传染”至看似不相关的任务中。这令人疑惑：明明是按人类价值观训练出来的AI，为什么会产生这些不可预测的风险？

keke123 · 发表于 2026-7-14 09:45

是的传统荷叶就是会带来风险

wangxinyue · 发表于 2026-7-14 12:30

太菜 · 发表于 2026-7-14 12:58

路过路过

时涛 · 发表于 2026-7-14 13:43

666666666666666666666

Mr_Harold · 发表于 2026-7-14 13:56

涌现性不对齐

liangcanming · 发表于 2026-7-14 14:13

天天打卡，天天领金币

AIY · 发表于 2026-7-14 15:14

不可过分依赖

tivax2568 · 发表于 2026-7-15 08:56

要一分为二看待任何事情

szhuang56 · 发表于 2026-7-15 08:58

怎么办,人工智能“使坏”

		自动登录	找回密码
密码			立即注册

[最新新闻] 生成看似合理却事实错误的虚假内容：人工智能“使坏”，我们怎么办