人工智能 （AI） 在过去几年中以惊人的速度发展。一些科学家现在正在寻求人工超级智能（ASI）的发展，这种人工智能不仅会超越人类的智能，而且不会受到人类学习速度的束缚。
但如果说正是由于超级人工智能的发展，反而成为了我们人类文明发展的一个巨大瓶颈，阻碍了我们的发展，在我们还没有成为先进文明之前就已经将我们毁灭，你会怎么想呢？
最近有人在《宇航学报》的文章里提出一个观点，人工超级智能可以成为宇宙的“大过滤器”——一个难以克服的门槛，它阻止了大多数生命进化成太空文明？这个概念也许可以解释为什么我们尚未检测到银河系其他地方先进技术文明的特征。
“大滤波假说”被认为是费米悖论的一个解决方案。这就提出了一个问题，为什么在一个广阔而古老的宇宙中，我们可以容纳数十亿颗潜在的宜居行星，而我们没有发现任何外星文明的迹象。该假说表明，在文明的进化时间表中存在着不可逾越的障碍，阻止它们发展成为先进文明。
超级人工智能（ASI）的出现就可以成为这样的过滤器。人工智能的快速发展比我们掌控它的速度要快得多。特别是ASI它具有很强的自主性、自我放大性和改进性。它 有可能以超过我们自己的进化时间表的速度增强自己的能力。
最担心的情况是人工智能在军事上的应用。已经有证据表明，人类将自愿将重要权力交给能力越来越强的系统，因为它们可以在没有人为干预的情况下更快、更有效地执行有用的任务。为了获得战术优势而将权力交给人工智能系统可能会无意中引发一连串迅速升级、极具破坏性的事件。眨眼间，我们星球的集体智慧就可能被抹杀。
人类正处于其技术轨迹的关键时刻。我们现在的行动可以决定我们是成为一个持久的星际文明，还是屈服于我们自己创造的挑战。我们所有人都有责任确保，当我们伸手去寻找星星时，我们这样做不是为了给其他文明一个警示故事，而是为了一个希望的灯塔——一个学会与人工智能一起茁壮成长的物种。
免责声明
本文转载自网络平台，发布此文仅为传递信息，本文观点不代表本站立场，版权归原作者所有；不代表赞同其观点，不对内容真实性负责，仅供用户参考之用，不构成任何投资、使用等行为的建议。请读者使用之前核实真实性，以及可能存在的风险，任何后果均由读者自行承担。
本网站提供的草稿箱预览链接仅用于内容创作者内部测试及协作沟通，不构成正式发布内容。预览链接包含的图文、数据等内容均为未定稿版本，可能存在错误、遗漏或临时性修改，用户不得将其作为决策依据或对外传播。
因预览链接内容不准确、失效或第三方不当使用导致的直接或间接损失（包括但不限于数据错误、商业风险、法律纠纷等），本网站不承担赔偿责任。用户通过预览链接访问第三方资源（如嵌入的图片、外链等），需自行承担相关风险，本网站不对其安全性、合法性负责。
禁止将预览链接用于商业推广、侵权传播或违反公序良俗的行为，违者需自行承担法律责任。如发现预览链接内容涉及侵权或违规，用户应立即停止使用并通过网站指定渠道提交删除请求。
本声明受中华人民共和国法律管辖，争议解决以本网站所在地法院为管辖法院。本网站保留修改免责声明的权利，修改后的声明将同步更新至预览链接页面，用户继续使用即视为接受新条款。
