Nick Bostrom väger liten AI-risk mot idén om en löst värld för mänskligheten

Filosofen Nick Bostrom har publicerat en ny rapport där han argumenterar för att en liten risk att AI utplånar mänskligheten kan vara acceptabel. Han föreslår att avancerad AI skulle kunna befria mänskligheten från dess oundvikliga slut.

Nick Bostrom delade nyligen en rapport där han presenterar sina uppdaterade åsikter om artificiell intelligens. I den konstaterar han att även en liten risk för att AI utplånar mänskligheten kan vara värd att ta, eftersom tekniken skulle kunna göra slut på vad han kallar mänsklighetens universella dödsdom och skapa en löst värld fri från lidande.

Relaterade artiklar

Illustration of Pope Leo XIV releasing an encyclical on disarming AI, suitable for news article.
Bild genererad av AI

Påve Leo publicerar encyklika med uppmaning om att avväpna AI

Rapporterad av AI Bild genererad av AI

Påve Leo XIV publicerade sin första encyklika den 25 maj, där han manar till att avväpna AI i det allmänna bästa tjänst. Dokumentet på 40 000 ord, med titeln Magnifica Humanitas, undertecknades den 15 maj i Rom.

Elon Musk uppgav i podcasten Moonshots with Peter Diamandis att artificiell intelligens kommer att överträffa mänsklig intelligens i en sådan utsträckning att människor kommer att utgöra en mikroskopisk minoritet, inte bara på jorden utan i hela solsystemet. Han illustrerade den potentiella skalan genom att göra energijämförelser med solen. Musk passade även på att prisa sin AI-produkt Grok samtidigt som han noterade förbättringsområden.

Rapporterad av AI

Anthropic har släppt en ny cybersäkerhetsfokuserad AI-modell vid namn Mythos, kapabel att upptäcka mjukvarubrister snabbare än människor och skapa sårbarhetsutnyttjanden. Modellen har väckt larm hos regeringar och företag för dess potential att påskynda hackning genom att avslöja sårbarheter snabbare än de kan åtgärdas. Tjänstemän världen över skyndar sig nu för att utvärdera riskerna.

Ledande chefer inom läkemedels- och teknikbranschen slår larm om möjlig missbruk av AI och genteknik för biologiska vapen.

Rapporterad av AI

Den amerikanska regeringen har nekat utländska användare åtkomst till Anthropics senaste AI-modeller. Åtgärden vidtogs i fredags, enligt uppgift av säkerhetsskäl.

Denna webbplats använder cookies

Vi använder cookies för analys för att förbättra vår webbplats. Läs vår integritetspolicy för mer information.
Avböj