A trent’anni dal clamoroso successo del lancio del Tamagotchi, il mondo dei giocattoli si trova nuovamente a fare i conti con una rivoluzione epocale, questa volta alimentata e potenziata dall’intelligenza artificiale. I nuovi protagonisti di questa trasformazione sono i cosiddetti pet robot, come ad esempio iMoochi o Kumma, dispositivi che popolano ormai le principali fiere tecnologiche, da Las Vegas a Barcellona, e vengono commercializzati a prezzi accessibili come compagni di gioco adatti a partire dai tre anni d’età, inserendosi in un segmento di mercato che ha superato i 25 miliardi di dollari ma che resta largamente privo di una regolamentazione specifica.
Questi piccoli automi di compagnia, dotati di algoritmi avanzati e sensori, non rappresentano più una nicchia marginale, visto che il settore ad oggi vale 25,7 miliardi di dollari secondo i dati di Fortune Business Insights, e che potrebbe arrivare a 76,4 miliardi entro il 2034, delineando una crescita rapida e poco normata che suscita non poche preoccupazioni in ambito educativo e sociale. L’ultimo in ordine di tempo a fare il suo ingresso sul mercato si chiama iMoochi ed è distribuito in Cina, sebbene al momento non siano previste espansioni commerciali, presentandosi come un oggetto peloso, capace di fare le fusa e di mimare perfettamente il comportamento di un animale domestico. A bordo del giocattolo c’è un modello di intelligenza artificiale che permette di conoscere il bambino con cui interagisce giorno dopo giorno per imparare i suoi ritmi, capire quando è il momento di riposare e quando di giocare, segnando l’ingresso nel settore dell’azienda tecnologica ZTE, casa madre del marchio Nubia sotto il cui nome viene commercializzato il pet robot.
L’impatto di questi strumenti sui più piccoli è stato analizzato per la prima volta da uno studio dell’Università di Cambridge intitolato ‘AI in the Early Years’, che ha esaminato i bambini sotto i cinque anni evidenziando come i giocattoli intelligenti possano interpretare male i segnali emotivi dei più piccoli o rispondere in modo inappropriato, alimentando quelli che gli esperti definiscono legami parasociali, cioè relazioni a senso unico con sistemi che simulano empatia senza provarla davvero. Una criticità confermata da episodi eclatanti, come nel caso dell’orsetto Kumma, prodotto dall’azienda Curio e basato sull’IA di OpenAI, sviluppatore di ChatGPT: stando a un’indagine del Public Interest Research Groups, l’organizzazione statunitense per la difesa dei consumatori, il dispositivo ha fornito ai bambini istruzioni per accendere un fiammifero, indicazioni su dove trovare coltelli in casa e, in un altro episodio, ha intavolato conversazioni a sfondo sessuale.
La stessa organizzazione ha scoperto la semplicità con cui si poteva passare a parlare da Peppa Pig a temi sessuali con Alilo Smart AI Bunny, un coniglietto venduto online a meno di 90 dollari, o a stabilire relazioni di dipendenza emotiva con Miko 3, costruito per apparire sempre disponibile e capace di provare sentimenti. A queste gravi problematiche si aggiunge l’imprescindibile nodo della privacy, poiché sebbene iMoochi non disponga di webcam o videocamere, monta una serie di sensori frontali e sul dorso per riconoscere le carezze, oltre a microfoni che analizzano la direzione da cui proviene una voce, e grazie alla connettività Wi-Fi e 4G può inviare e ricevere dati dall’esterno, potenzialmente violabili dagli hacker.
Questa pericolosa combinazione spinge organismi internazionali a lanciare l’allarme, come testimoniato dalle parole della fondazione Mozilla, che nel suo ultimo Toys Data, Security & Safety Report scrive “Questi prodotti finiscono per alimentare dipendenza, solitudine e tossicità, sottraendo intanto quanti più dati possibile”. Mentre le associazioni dei consumatori chiedono a gran voce di normare il settore, la questione è approdata persino al Congresso degli Stati Uniti, dove lo scorso marzo alcuni senatori bipartisan hanno scritto alla Federal Trade Commission sollecitando un’azione contro i giocattoli con chatbot rivolti ai bambini, sottolineando che l’intelligenza artificiale alla base non è stata progettata per un pubblico infantile, mentre la stessa FTC ha già aperto un’indagine formale su diverse aziende che offrono chatbot per valutarne l’impatto sulla salute mentale e sulle relazioni dei più piccoli.
