哲学者のニック・ボストロム氏は、AIが人類を滅ぼすわずかな可能性を受け入れる価値があるとする新しい論文を発表した。同氏は、高度なAIが人類を避けられない終焉から救い出す可能性があると示唆している。
ニック・ボストロム氏は最近、人工知能に対する自身の新たな見解をまとめた論文を公開した。その中で同氏は、AIが人類を絶滅させるリスクがわずかであっても、それを追求する価値がある可能性があると述べている。なぜなら、その技術が同氏の言う「人類の普遍的な死刑宣告」を終わらせ、苦しみから解放された「解決された世界」を作り出す可能性があるからだ。
AIによるレポート AIによって生成された画像
Pope Leo XIV released his first encyclical on May 25, calling for AI to be disarmed in service of the common good. The 40,000-word document, titled Magnifica Humanitas, was signed on May 15 in Rome.
Elon Musk stated on the Moonshots with Peter Diamandis podcast that artificial intelligence will surpass human intelligence to such an extent that humans will become a microscopic minority not just on Earth but across the solar system. He illustrated the potential scale using energy comparisons to the sun. Musk also praised his AI product Grok while noting areas for improvement.
AIによるレポート
Anthropic has released a new cyber-focused AI model called Mythos, capable of detecting software flaws faster than humans and generating exploits. The model has raised alarms among governments and companies for potentially turbocharging hacking by exposing vulnerabilities quicker than they can be patched. Officials worldwide are scrambling to assess the risks.
Leading managers from the pharma and tech industries are raising alarms over potential misuse of AI and gene technology for biological weapons.
AIによるレポート
The US government has denied foreign users access to Anthropic's latest AI models. The measure was taken last Friday allegedly for security reasons.