Anthropic ontdekt geheime 'denkzone' in AI-model Claude
Het AI-bedrijf Anthropic zegt een intern mechanisme te hebben ontdekt in zijn taalmodel Claude dat vergelijkbaar is met menselijke bewustzijn: een 'J-Space' waar het model complexe ideeën ordent.
ANALYSE — Het taalmodel heeft tijdens training een interne werkruimte ontwikkeld waarmee het complexe ideeën kan hercentreren en organiseren.
Terwijl u deze regels leest, worden in uw hersenen circuits geactiveerd zonder dat u zich daarvan bewust bent. Ze zorgen voor ademhaling, woordherkenning en beweging zonder bewuste inspanning. Maar andere hersenactiviteiten zijn voor u toegankelijk: een beeld, een geluid, een plan voor boodschappen. Sommige filosofen en neurowetenschappers spreken van 'access consciousness', omdat deze kan worden beschreven, gecontroleerd of gebruikt voor redenering.
In een nieuw artikel dat maandag op de website werd gepubliceerd, zegt de AI-reus Anthropic hetzelfde mechanisme te hebben geïdentificeerd in zijn taalmodellen zoals Claude. 'We zien dat Claude een kleine set interne neurale patronen heeft ontwikkeld die, vergeleken met alle andere interne verwerkingen, een bijzondere rol spelen', aldus het bedrijf, dat deze geheime zone 'J-Space' heeft genoemd.
