Vietato insultare l'intelligenza artificiale: Anthropic ha annunciato di aver aggiornato la propria politica di utilizzo introducendo un blocco delle interazioni in cui gli utenti adottano comportamenti «abusivi o crudeli, prolungati e non necessari» nei confronti dei suoi modelli di AI. Una mossa che ha suscitato un dibattito, mentre il mondo della tecnologia si interroga sulla possibilità che le macchine possano essere dotate di una sorta di «coscienza».
Il produttore di Claude ha spiegato che i comportamenti ritenuti "crudeli" saranno inseriti in un elenco di azioni proibite che comprende anche il bullismo, l'incitamento all'autolesionismo e la creazione di immagini intime non consensuali. E lo stop si attiverà attiverà in "casi estremi" di abusi ripetuti.
La politica di utilizzo di Anthropic conteneva già in precedenza restrizioni contro i comportamenti abusivi: i modelli linguistici di grandi dimensioni (Llm) dell'azienda hanno la capacità di interrompere una conversazione qualora l'utente mantenga un atteggiamento “costantemente dannoso”.
«Nutriamo ancora forti incertezze sul possibile status morale di Claude e degli altri modelli Llm, sia nel presente che nel futuro. Tuttavia, prendiamo la questione molto seriamente e, parallelamente al nostro programma di ricerca, stiamo lavorando per individuare e attuare interventi a basso costo volti a mitigare i rischi per il benessere dei modelli, qualora tale benessere fosse possibile. Consentire ai modelli di interrompere o uscire da interazioni potenzialmente stressanti rappresenta uno di questi interventi», si legge sul sito web dell'azienda.
Come riporta la Bbc, gli screenshot della nuova politica sono stati ampiamente condivisi e commentati sui social media, con alcuni che l'hanno elogiata come un esempio di buone maniere o un "modello di welfare" mentre altri hanno criticato il piano: "Non si può essere crudeli con i numeri e la matematica", ha scritto su LinkedIn Barry Scannell, partner specializzato in tecnologia dello studio legale irlandese William Fry.
