De VS roept bankchefs op vanwege AI-cyberrisico's van Anthropic's nieuwste AI-model
Functionarissen waarschuwen dat het nieuwe systeem kritieke kwetsbaarheden in de financiële infrastructuur kan blootleggen.
Amerikaanse functionarissen hebben topbankbestuurders naar Washington geroepen te midden van groeiende zorgen over cyberbeveiligingsrisico's die verband houden met het nieuwe AI-model ontwikkeld door Anthropic. De vergadering, naar verluidt geleid door minister van Financiën Scott Bessent, vindt plaats kort na de onthulling van het nieuwste systeem van het bedrijf, Claude Mythos.
Onder de aanwezigen is Jerome Powell, samen met leidinggevenden van grote financiële instellingen zoals Goldman Sachs, Bank of America en Citigroup. De bijeenkomst richt zich op de potentiële risico's van geavanceerde AI-tools die in staat zijn softwarekwetsbaarheden te identificeren en te benutten op een niveau dat vergelijkbaar is met, of zelfs overtreft, menselijke experts.
Anthropic waarschuwde onlangs dat hun model duizenden eerder onopgemerkte zwakke plekken in veelgebruikte systemen had ontdekt, wat de vrees wekte dat dergelijke technologie misbruikt zou kunnen worden door hackers. Een lek van de code van het model eerder deze maand vergrootte de zorgen, waarbij het bedrijf erkende dat de bredere impact op economieën en nationale veiligheid aanzienlijk kan zijn.
Als reactie daarop heeft Anthropic de toegang tot het model beperkt tot een beperkte groep bedrijven, waaronder grote technologiebedrijven en infrastructuurorganisaties. Dit is de eerste keer dat het bedrijf een productlancering beperkt.
