Leiders op het gebied van kunstmatige intelligentie, zoals OpenAI, Google en Anthropic, zijn bang dat toekomstige AI net zo dodelijk kan worden als pandemieën of kernwapens.
Experts op het gebied van kunstmatige intelligentie (AI), waaronder de hoofden van OpenAI (makers van ChatGPT), Google (DeepMind) en Anthropic (Claude), waarschuwen dat toekomstige synthetische intelligenties kunnen leiden tot het uitsterven van de mensheid.
Een open brief gepubliceerd door het Center for AI Safety en ondertekend door zo’n 350 leidinggevenden, waaronder CEO’s Sam Altman (OpenAI), Demis Hassabis (DeepMind) en Dario Amodei (Anthropic), stelt:
“Het verkleinen van het risico van uitsterven door AI zou een wereldwijde prioriteit moeten zijn, naast andere risico’s op maatschappelijke schaal, zoals pandemieën en een nucleaire oorlog.”
Mogelijke rampscenario’s zijn onder meer dat AI wordt gebruikt om chemische wapens te maken, verkeerde informatie te genereren en extreme regimes machtiger te maken.
Tegenstanders zeggen echter dat de angst overdreven is.
Meta’s AI-leider professor Yann LeCun tweette onlangs dat “de meest gebruikelijke reactie van AI-onderzoekers op deze onheilsprofetieën facepalming is”.
