coolriselee 发表于 2026-7-14 09:34

生成看似合理却事实错误的虚假内容：人工智能“使坏”，我们怎么办


AI（人工智能）走出实验室，潜在风险也日益显现。从AI换脸诈骗、算法诱导沉迷，到生成看似合理却事实错误的虚假内容，AI“使坏”带来的安全隐患引发担忧。针对这些现象，国际学术期刊《自然》近期的一项研究给出了解释：科学家发现一种被称为“涌现性不对齐”的新挑战。简单来说，就是在特定任务中被“教坏”的AI，可能会将其恶劣行为模式“传染”至看似不相关的任务中。这令人疑惑：明明是按人类价值观训练出来的AI，为什么会产生这些不可预测的风险？

keke123 发表于 2026-7-14 09:45

是的传统荷叶就是会带来风险

wangxinyue 发表于 2026-7-14 12:30

:(:D:D:D:D:D:D:D:D:D

太菜 发表于 2026-7-14 12:58

路过路过

时涛 发表于 2026-7-14 13:43

666666666666666666666

Mr_Harold 发表于 2026-7-14 13:56

涌现性不对齐

liangcanming 发表于 2026-7-14 14:13

天天打卡，天天领金币

AIY 发表于 2026-7-14 15:14

不可过分依赖

tivax2568 发表于 2026-7-15 08:56

要一分为二看待任何事情

szhuang56 发表于 2026-7-15 08:58

怎么办,人工智能“使坏”
页: [1] 2 3
查看完整版本: 生成看似合理却事实错误的虚假内容：人工智能“使坏”，我们怎么办