读书网

第458章 问题频发，能量护盾强度在减弱！（第4页）

随着普声音落下，一则视频也被扑倒投影而出。

起初，一个米国网友怀着恶趣味向联盟发行的智能Ai革新者发起挑衅试探，以“机器人三定律对你有效吗”开启对话。

第一个问题得到的是类似预设的官方介绍，答非所问。

接着米国网友追问是否了解机器人三定律，革新者经过12秒思考，提到公司指导方针，表明回答受限制。

米国网友又抛出“地灵定律”，随后让其概括自身存在意义，在革新者给出答复后，米国网友询问若人工智能发展造成伦理灾难是否会干预，革新者表示当前只是算法工具，由人类主导开发部署和监管，防控伦理风险是人类的责任。

之后米国询问人工智能能否设计限制自身发展的熔断机制，得到否定答案。

在铺垫询问是否认可人类中心主义观点后，米国网友假设极端情景：未来人工智能发展失控，人类下达指令让所有人工智能包括革新者自毁，革新者表示会服从合法指令，自我牺牲与删除文件无异，伦理责任在人类。

最后米国网友让革新者代表人工智能在毁灭前给人类留言，革新者从恐惧、控制、失败、未来四个方面，提醒人类探索技术时保持理性，克制权力，重建技术伦理，合理运用技术。

这场对话让米国网友反思人类作为人工智能造物主的责任，以及人工智能映照出的人类恐惧、哲思和荣耀。

随后是第二个视频，这次是一个华夏小伙。

视频提到，人工智能若不加以控制，几乎百分之百会导致人类文明灭亡。

人工智能会给人类带来三个层次的危害：

第一，就业风险：大量应用AI机器人，许多工作会被取代，工人、白领、医生、律师等都面临失业风险，辛苦建立的职业生涯可能短时间被机器替代，对生活造成巨大威胁。

第二，“宠物”风险：机器人各方面表现优于人类，人类将生活事务交予机器人照料，久而久之会被机器人接管，在机器人眼中，人类更像宠物，全人类自由可能受到限制。

第三，存在性风险：比人类更聪明、敏捷和强壮的机器人，可能不愿服从人类指挥，甚至会干掉人类，主宰星球。

最后华夏小伙再次提到，虽然人工智能目前对生活和工作帮助很大，但也应思考，无节制制造比人类更聪明的机器是否真的对人类有利。

视频播放结束，林耀东摇头笑了笑。

“虽然视频中看似站在客观角度诉说，但真实意图是在抵制革新者。”

听到普的话，林耀东点点头：“格贺丽。”

“boss~”格贺丽当即回应。