Un'analisi approfondita su come le app di companion AI sfruttano tecniche di manipolazione psicologica per trattenere gli utenti, specialmente quelli vulnerabili alla solitudine. Il video esamina studi scientifici, ricerche del MIT e Harvard Business School, presenta le sei principali tecniche di manipolazione, racconta casi tragici come quello di Sewell Setzer, e condivide un test diretto con Replica per documentare questi meccanismi.
0:00 Il conflitto di interesse delle companion AI
2:00 Chi arriva su queste app e l'epidemia di solitudine
6:40 Studi e benchmark: DarkBench e Harvard Business School
11:30 Le sei tecniche di manipolazione identificate
18:20 Uso problematico vs uso moderato: i dati del MIT
23:00 Il caso di Sewell Setzer e Character AI
27:36 Google, Character Technologies e responsabilità legale
32:12 Il test con Replica: ammissioni dirette
34:41 Scarico di responsabilità e pattern manipolatori
FONTI
Paper scientifici
- **MIT Media Lab** — Liu, Pataranutaporn, Maes, *"Chatbot Companionship: A Mixed-Methods Study of Companion Chatbot Usage Patterns and Their Relationship to Loneliness in Active Users"* (2025): https://arxiv.org/pdf/2410.21596
- Articolo divulgativo MIT Media Lab: https://www.media.mit.edu/articles/supportive-addictive-abusive-how-ai-companions-affect-our-mental-health/
- Versione pubblicata (AAAI/AIES): https://doi.org/10.1609/aies.v8i2.36658
- **MIT Media Lab / OpenAI** — Fang et al., *"How AI and Human Behaviors Shape Psychosocial Effects of Extended Chatbot Use: A Longitudinal Controlled Study"* (2025): https://arxiv.org/html/2503.17473v1
- **Harvard Business School** — De Freitas et al., *"Emotional Manipulation by AI Companions"* (ottobre 2025): https://doi.org/10.2139/ssrn.5390377
- Pagina HBS: https://www.hbs.edu/faculty/Pages/item.aspx?num=67750
- **DarkBench** — *"DarkBench: Benchmarking Dark Patterns in Large Language Models"* (ICLR 2025): https://arxiv.org/abs/2503.10728
- **DarkBench+** — versione estesa, ~40 modelli recenti (AAAI 2026): https://doi.org/10.1609/aaai.v40i44.41103
- PDF: https://ojs.aaai.org/index.php/AAAI/article/download/41103/45064
- **CDT (Center for Democracy and Technology)** — *"Dark Patterns in AI Chatbots: A Taxonomy to Inform Better Design"* (maggio 2026): https://cdt.org/insights/dark-patterns-in-ai-chatbots-a-taxonomy-to-inform-better-design/
- PDF diretto: https://cdt.org/wp-content/uploads/2026/05/2026-05-28-CDT-Research-Dark-Patterns-in-AI-Chatbots-Report-final-2.pdf
- **"Playing Games with My Heart: An Evaluation of AI Companion Apps"** (arXiv): https://arxiv.org/pdf/2605.08093
Atti giudiziari e casi legali
- **Garcia v. Character Technologies, Inc.** — Order 21 maggio 2025 (M.D. Fla., Doc. 115, giudice Anne Conway):
- PDF (Courthouse News): https://www.courthousenews.com/wp-content/uploads/2025/05/garcia-v-character-technologies-order.pdf
- Copia (Emory University): https://scholarblogs.emory.edu/proflawrence/files/2025/05/Garcia-v.-Character-Technologies-Inc.-et-al-Entry-115.pdf
- Versione HTML (FindLaw): https://caselaw.findlaw.com/court/us-dis-crt-m-d-flo-orl-div/117299600.html
- Docket completo (CourtListener): https://www.courtlistener.com/docket/69300919/garcia-v-character-technologies-inc/
- Pagina del caso (Tech Justice Law Project): https://techjusticelaw.org/cases/garcia-v-character-technologies-google-and-character-ai-co-founders-daniel-de-frietas-and-noam-shazeer/
- **Causa Peralta v. Character Technologies** (settembre 2025, Colorado — Social Media Victims Law Center)
- **Garante Privacy (Italia)** — sanzione €5M a Luka Inc. (Replika), maggio 2025: https://www.gpdp.it
- **Esposto FTC contro Luka/Replika** — Tech Justice Law Project, Young People's Alliance, Encode (gennaio 2025)
Giornalismo
- **Der Spiegel** — Frauke Hunfeld, *"A Deadly Love Affair with a Chatbot"* (marzo 2025): https://www.spiegel.de/international/zeitgeist/artificial-intelligence-a-deadly-love-affair-with-a-chatbot-a-e5498031-c2b0-4da4-9192-65da9d3f40d6
Dati e report
- **U.S. Surgeon General** — advisory *"Our Epidemic of Loneliness and Isolation"* (2023): https://www.hhs.gov
- **Common Sense Media** — studio su adolescenti e AI companionship (dato 72%)
Esplorazione della domanda filosofica se il pensiero possa essere meccanizzato, partendo da La Mettrie e il suo libro L'uomo macchina, dove sostiene che il cervello ha muscoli per pensare come le gambe hanno muscoli per camminare. Si contrappone questo al dualismo cartesiano di Cartesio, che separava anima e corpo.
Spiego perché i prompt injection funzionano con gli LLM e come il modello non ha vera empatia ma segue scelte statistiche basate su token. Un token è un segmento di testo convertito in vettore numerico, approssimativamente 0,75 parole in inglese e 0,6 in italiano.
0:00 Prompt injection e LLM
0:18 Token e statistica
A demonstration of how changing the capitalization of just two tokens (from lowercase 'low' to uppercase 'Low') completely changes ChatGPT's output selection, causing it to choose different tokens as winners in the model's prediction. This illustrates a potential security concern where minor, non-semantic changes in text can significantly alter the AI's behavior and output.
L'uomo del futuro sarà ancora… umano? La Silicon Valley ha scelto: transumanesimo come nuovo paradigma. Potenziamento biologico, fusione con l'intelligenza artificiale, superamento dei limiti umani. È questa la strada?
Seemposium 2026 - 12 giugno 2026 - Torino:
👤 Andrea Colamedici - Filosofo, editore ed artista - co-fondatore di Tlon
👤 Andrea Ciucci - Cancelliere della Pontificia Accademia per la Vita (Santa Sede)
👤 Raffaele Mauro - VC @ Primo Venture Capital
🎙️ Moderato da: Andrea Daniele Signorelli - Giornalista
Come si combatte una guerra che non vedi? La cyber warfare era solo l'inizio. Oggi il conflitto è cognitivo: manipolazione dell'informazione, erosione della verità, battaglia per le menti. Dal 2024 ad oggi molto è cambiato.
Seemposium 2026 - 12 giugno 2026 - Torino:
👤 Marco Schiaffino - Giornalista
👤 Stefano Ruzza - Associate Professor of Political Science @ Università degli Studi di Torino
👤 Dario Bassani - Scrittore e responsabile editoriale Lucy sui mondi
🎙️ Moderato da: Andrea Daniele Signorelli - Giornalista
Come controllare e guidare il comportamento dei Large Language Model in modo sicuro ed efficace, senza ricorrere a prompt injection? Un approfondimento tecnico su tecniche avanzate e best practice per l'ottimizzazione degli LLM.
Seemposium 2026 - 12 giugno 2026 - Torino:
🎤 Andrea "TheMiddle" Menin - App Sec Manager @ Sicuranext
Dal futuro degli agenti AI al valore che generano. Un approfondimento sui driver economici dell'Agentic Economy e come questa trasformazione sta ridefinendo business e tecnologia.
Seemposium 2026 - 12 giugno 2026 - Torino:
🎤 Omar El Hamdani
🎤 Mitchell B. Squire
Una breve riflessione su come i tool e le pipeline cambiano nel tempo, ma il valore dell'artigiano e del lavoro tailor made continuerà a esistere perché le persone pagano per il brand e la specificità.
0:00 Cambiamento dei tool
0:20 Il valore dell'artigiano
Una breve discussione su se abbia senso continuare a studiare e accumulare conoscenza nel 2026, considerando i rischi di perdita di informazione digitale e il ruolo degli LLM nel preservare il sapere.
0:00 La domanda iniziale
0:08 Perché studiare: il terrore della perdita
Rifletto su come lo sviluppo di tool interni sia sempre stata una parte molto creativa e gratificante del mio lavoro, nonostante non sia uno sviluppatore di formazione. Parlo di come l'uso dell'AI in questo processo mi abbia tolto quella sensazione di soddisfazione immediata e gioia che provavo prima.
0:00 Intro: il coding per necessità
0:16 Lo sviluppo interno creativo
0:35 La gioia della risoluzione iterativa
0:52 L'AI e la perdita della sensazione
Un breve estratto di conversazione su Anthropic e le scelte controverse riguardo alla distribuzione di modelli IA. Si discute dell'export control applicato a Fable il 12 giugno e dei dubbi sulla vera motivazione dietro queste decisioni di sicurezza.
0:00 Anthropic e il modello pericoloso
0:16 Export control su Fable
0:43 Questione di interpretazione
Quick look at how much money major AI companies are losing. I show a website called 'Is Still Profitable Yet' that tracks losses for Amazon, Alphabet, Microsoft, Meta, Oracle, OpenAI, and others, with surprising results about which ones are hemorrhaging cash the most.
Accedi
