Claude Instant, l’IA con valori morali batte la concorrenza

Le novità nel panorama dell’intelligenza artificiale proseguono costanti e arriva adesso Claude Instant, più performante degli avversari ma soprattutto con una serie di principi morali.

È dai tempi dei romanzi di Isaac Asimov che ci si chiede quale debba o possa essere il limite nella libertà delle creature digitali frutto dell’ingegno umano. Secondo il padre della fantascienza moderna le macchine rispondono a tre principi e questi tre principi dovrebbero evitarci di finire come dentro Terminator.

Ma, trattandosi di strumenti che vengono creati a partire dall’essere umano, a volte il risultato dell’interazione con i modelli linguistici non è edificante. Grandi colossi come OpenAI hanno per esempio aggiornato il proprio LLM con alcuni paletti e limiti. Ma Anthropic, che ha da poco diffuso la versione aggiornata del loro Claude Instant, è andata a quanto pare un passo oltre.

Un passo oltre perché a quanto pare Claude Instant è in grado di processare e analizzare testi che arrivano a superare i limiti finora imposti a ChatGPT a Bard e a Bing, ma soprattutto un passo oltre perché a quanto pare si tratti della prima intelligenza artificiale con una costituzione e quindi in pratica con una coscienza. E alla base della costituzione su cui poggia questo modello di intelligenza artificiale ci sono documenti fondanti dei rapporti interpersonali mondiali e non semplicemente vaghe idee di che cosa è giusto o sbagliato. Si tratta di certo di una scelta molto interessante.

Claude Instant, come funziona l’intelligenza artificiale con una coscienza

Come si legge nel lungo post sul sito ufficiale di Claude Instant, la costituzione su cui poggia il modo in cui l’intelligenza artificiale risponde è la risposta che Anthropic si dà a una domanda precisa: “come fa un modello linguistico a decidere a quali domande rispondere e quali invece sono inappropriate? Perché incoraggerà alcune azioni e né scoraggerà altre?“. Una domanda quanto mai lecita.

Alcune interazioni nel passato recente di ChatGPT, per esempio, hanno dimostrato che nonostante OpenAI abbia inserito una serie di limiti è comunque possibile farsi per esempio raccontare come favola della buonanotte la ricetta per il napalm o avere informazioni su altre sostanze illegali fingendo di dover scrivere la sceneggiatura di un episodio di un cartone animato.

Per avere reazioni solide e supportate da concetti altrettanto importanti la costituzione, che è l’ossatura del modo in cui reagisce Claude Instant, spiega Anthropic, poggia per esempio sulla Dichiarazione dei diritti umani delle Nazioni Unite e sui principi già individuati per esempio da Deepmind e su una scelta di cercare per quanto possibile di produrre una prospettiva che non sia per forza occidentale, con tutti gli eventuali bias che ne vengono.

La scelta di avere una costituzione potrebbe quindi mettere al riparo Claude Instant dai problemi e dai limiti, soprattutto nel punto di vista espresso, incontrati con le altre intelligenze artificiali. Perché, e lo si legge in uno degli ultimi paragrafi prima della enunciazione di tutti i principi su cui si fonda Claude Instant, “i modelli di intelligenza artificiale avranno sistemi di valori che siano intenzionali o no” ed è questo un concetto che anche gli utenti finali devono avere ben presente.