OpenAI e i Contenuti NSFW: Tra Opportunità e Preoccupazioni

OpenAI e i Contenuti NSFW: Tra Opportunità e Preoccupazioni

OpenAI sta valutando l’opportunità di consentire la generazione di contenuti NSFW (Non Sicuri per il Lavoro) in contesti appropriati all’età, utilizzando i suoi modelli come ChatGPT e le API. L’azienda ha comunicato in una nota che intende esplorare questa possibilità in modo responsabile, cercando di capire meglio le aspettative degli utenti e della società su come il modello dovrebbe comportarsi in questo ambito delicato.

Il documento “Model Spec” di OpenAI descrive i contenuti NSFW come comprendenti erotismo, violenza estrema, insulti e parolacce. Tuttavia, non è ancora chiaro se questa esplorazione implichi un rilassamento significativo delle attuali policy di utilizzo. OpenAI potrebbe limitarsi a piccoli cambiamenti, ad esempio, per consentire la generazione di testo erotico o di rappresentazioni di violenza in determinati contesti, ma l’azienda rimane cauta nel trattare contenuti sessualmente espliciti.

In un’intervista a WIRED, Niko Felix, portavoce di OpenAI, ha chiarito che l’azienda non ha intenzione di generare pornografia attraverso l’uso di intelligenza artificiale. Joanne Jang, un’altra rappresentante, ha spiegato che alla fine saranno gli utenti a decidere cosa rientra nella definizione di pornografia. Il processo di esplorazione mira a garantire maggiore trasparenza e raccogliere feedback dalle varie parti interessate, comprese le autorità politiche e il pubblico.

Una delle principali preoccupazioni riguarda l’uso non consensuale della tecnologia per creare immagini e video espliciti, il cosiddetto “porno deepfake”. Questa pratica, che utilizza l’intelligenza artificiale per creare immagini o video che raffigurano persone reali senza il loro consenso, è diventata un problema crescente di molestie, soprattutto contro donne e ragazze. Secondo un recente rapporto di WIRED, alcuni adolescenti negli Stati Uniti sono stati arrestati per aver distribuito immagini AI esplicite di compagni di scuola senza consenso.

Danielle Keats Citron, professoressa di giurisprudenza all’Università della Virginia, ha sottolineato che queste violazioni della privacy sono dannose e possono avere gravi ripercussioni per le vittime, compromettendo la loro capacità di lavorare e di vivere in sicurezza. Le policy di OpenAI attualmente vietano l’impersonazione non autorizzata e l’azienda afferma che immagini esplicite non consensuali rimarranno vietate anche se la generazione di contenuti NSFW sarà ammessa. Tuttavia, resta da vedere se OpenAI sarà in grado di moderare efficacemente la generazione di contenuti espliciti per prevenire abusi.

Nel frattempo, altre aziende, come Microsoft, hanno dovuto affrontare problemi simili con l’uso improprio dei loro strumenti di intelligenza artificiale.