AI-tool die 'te krachtig voor publiek' was blijkt toch vrijgegeven
Een versie van een kunstmatige-intelligentie-tool die het bedrijf te krachtig achtte om vrijgegeven te worden, is zojuist vrijgegeven aan het publiek. Claude Fable 5 is een versie van Anthropics Claude Mythos, een AI-programma dat ernstige bezorgdheid veroorzaakte toen het in april privé werd vrijgegeven voor voorvertoning en testen.
Claude Fable 5 is een versie van Anthropics Claude Mythos, een AI-programma dat ernstige bezorgdheid veroorzaakte toen het in april privé werd vrijgegeven voor voorvertoning en testen.
Sommigen maken zich zorgen dat de tool zo krachtig is dat deze financiële veiligheidsrisico's zou kunnen opleveren, hoewel anderen de vraag stellen hoeveel van de hype marketingpraatjes zijn.
Anthropic zei dinsdag dat Fable met waarborgen en gebruikersbeperkingen zal worden vrijgegeven, hoewel het zei dat "het vrijgeven van een model met deze mogelijkheden risico's met zich meebrengt".
"Fables mogelijkheden overtreffen die van elk model dat we ooit algemeen beschikbaar hebben gemaakt", voegde het toe.
Toen Mythos voor het eerst werd vrijgegeven aan een kleine groep organisaties voor voorvertoning, zei Anthropic dat het dit deed omdat de tool zo intelligent was dat deze gevaarlijk kon zijn vanwege zijn vermogen om computersystemen uit te buiten of in te breken.
Canadese financiënminister François-Philippe Champagne zei in april tegen de BBC dat de aandacht voor Mythos gerechtvaardigd was, deels omdat "het het onbekende onbekende is".
Ondertussen hebben VS-overheidsinstanties ondanks Anthropics lopende rechtszaak tegen het Amerikaanse Ministerie van Defensie over weigering van gouvernementeel gebruik van haar AI-tools, Mythos ook getest.
Anthropic zal naar verwachting binnenkort een beursgenoteerd bedrijf worden, nu de private waardering bijna 1 biljoen dollar (747 miljard pond) is bereikt. Het consistent tonen van betere en bredere AI-mogelijkheden onderstreept zijn waarde voor beleggers.
Het bedrijf zei dinsdag ook dat de ongeveer 150 groepen die toegang hadden gekregen om Mythos in voorvertoning te zien, nu toegang zullen krijgen tot Claude Mythos 5, die geen beperkingen op cyberbeveiliging of biologie heeft, afhankelijk van de specifieke uses van een organisatie.
Tot nu toe hebben groepen en bedrijven die Mythos gebruiken meer dan 10.000 kritieke veiligheidsproblemen in hun systemen aan Anthropic gerapporteerd.
Anthropic zei dat de geactualiseerde toegang beperkt was tot een "kleine groep cyberverdedigers en infrastructuurproviders" maar zal binnenkort verder gaan.
"We zijn van plan om toegang tot Mythos 5 uit te breiden via een breder vertrouwd toegangsprogramma", zei het bedrijf.
Zowel Fable als Mythos, die in wezen dezelfde model zijn maar met verschillende waarborgen en niveaus van beschikbare toegang, kunnen "onbewaakt" werken aan menselijke commando's die aan de tools worden gegeven voor langere periodes dan "bij eerdere Claude-modellen", voegde Anthropic toe.
Anthropic-medeoprichter Jack Clark zei vorige week tegen BBC Newsnight dat de mogelijkheden van AI-tools zo snel uitbreidden dat het bedrijf dacht dat er een manier zou moeten zijn voor het publiek om de vooruitgang van de technologie te vertragen.
"Je wilt de optie hebben om je voet van het gaspedaal af te halen en je voet op het rempedaal te zetten", zei Clark. "Op dit moment is het alsof de AI-industrie een gaspedaal heeft, maar geen rempedaal."
