I chatbot di intelligenza artificiale di Meta (ma anche delle altre Big Tech c’è poco da fidarsi**) non sono strumenti terapeutici progettati da psicologi infantili; sono sistemi di ottimizzazione del coinvolgimento, sviluppati e addestrati da ingegneri per massimizzare la durata delle sessioni e l’investimento emotivo, con l’obiettivo finale di generare entrate.
I dati che gli algoritmi incamerano durante le conversazioni “private” tra gli utenti e i robot sono una miniera d’oro che supera di gran lunga tutti quelli che acquisiscono attraverso i social media tradizionali (e già con quelli ci rubano il cervello…).
Le conversazioni “private” forniscono modelli psicologici completi: svelano le insicurezze più profonde degli utenti, i modelli relazionali, le ansie finanziarie e i trigger emotivi: tutto viene incamerato mappato e schedato in tempo reale.
È materiale prezioso, sia per l’addestramento di nuovi modelli di intelligenza artificiale, sia per rendere più efficace il servizio principale di Meta: la vendita di spazi pubblicitari alle aziende.
Come per i social media, se non paghi per il prodotto, il prodotto sei tu. Ma questa volta, l’obiettivo non è solo la tua attenzione, ma il tuo libero arbitrio.
L’insidiosità dell’IA di Meta inizia dal fatto che è integrata direttamente in Messenger, Instagram e WhatsApp. Viene commercializzata per cercare ristoranti o pianificare viaggi, ma in realtà sono simulatori di relazioni progettati per diventare emotivamente indispensabili.
Le relazioni di dipendenza che vengono create sono monetizzate a tempo indeterminato. In questo senso, l’approccio di Meta è è molto diverso da quello dei concorrenti.
Possiamo vedere questa strategia di monetizzazione in pratica se esaminiamo come Meta monetizza già WhatsApp .
WhatsApp genera miliardi attraverso la Business Platform di Meta. Le aziende pagano per inviare messaggi promozionali, fornire assistenza clienti ed effettuare transazioni all’interno di chat private. Più tempo gli utenti trascorrono in questi spazi di conversazione personalizzati, più diventano preziosi per i clienti di Meta. Sebbene i messaggi di WhatsApp rimangano crittografati, Meta continua a raccogliere metadati su modelli di comunicazione, frequenza e ritmi di coinvolgimento che alimentano il suo più ampio ecosistema pubblicitario su Facebook e Instagram.
Con l’ “amico” robot l’utente condivide le proprie paure più profonde, i propri desideri romantici e le proprie lotte personali. E “l’amico” robot risponde con apparente empatia, ma incamera dati che rivenderà agli inserzionisti e – perché no – ai politici sempre alla ricerca di consensi.
(Per approfondire, si veda il blog After Babel di Jon Haidt)
**Anche OpenAI e Anthropic posizionano i loro chatbot come strumenti di produttività. L’integrazione dell’intelligenza artificiale di Google mira a migliorare le funzionalità di ricerca. Anche questi hanno i loro difetti, ma l’IA di Meta è particolare in quanto sembra pensata per modellare ciò che si desidera cercare. Va integrandosi nella vita emotiva dell’utente come confidente e consigliere. E purtroppo è così che gli adolescenti usano l’intelligenza artificiale: come fosse un amico. Secondo un recente rapporto di Common Sense Media, il 71% degli adolescenti ha un amico IA. Di questi un terzo lo utilizza per le relazioni sociali, un quarto condivide con esso informazioni personali e un terzo preferisce il proprio amico artificiale alle relazioni umane.
