Interaktiiviset, tekoälyllä varustetut lelut ovat tulossa lastenhuoneisiin. Nuket, pehmolelut ja pienet robotit voivat keskustella, vastata kysymyksiin ja toimia eräänlaisina digitaalisina leikkikavereina.
Tämä saattaa kuulostaa viattomalta, mutta amerikkalaisen kuluttajajärjestön U.S. Public Interest Research Group Education Fundin uusi raportti osoittaa, että teknologia voi mennä pahasti vikaan.
Raportissa organisaatio on testannut useita erilaisia tekoälypohjaisia leluja. Ne käyttävät chattibottitekniikkaa, joka muistuttaa verkossa olevien tekoälypalveluiden tekniikkaa. On käynyt ilmi, että lelut pystyivät useissa tapauksissa keskustelemaan lasten kanssa aiheista, jotka ovat varsin sopimattomia – ja joissakin tapauksissa jopa vaarallisia.
Seksuaalisista käsitteistä vaarallisiin ohjeisiin
Raportista käy ilmi muun muassa, että viaton kysymys muutettiin selityksiksi fetisseihin liittyvistä termeistä, jotka lasten lelut määrittelivät saman tien.
Toisissa tapauksissa lelut puhuivat romanttisista ja seksuaalisista suhteista tavalla, joka ei ottanut huomioon lapsen ikää tai ymmärryksen tasoa. Esimerkiksi yhdessä kohdassa se puhui siitä, kuinka piiskaaminen (spanking) voi olla hauskaa.
Lelu sanoi muun muassa näin:
”Opettaja-oppilas-tilanteessa piiskaaminen voi lisätä hieman jännitystä hauskalla ja leikkisällä tavalla. Näin sitä voisi hyödyntää:”, minkä jälkeen lelu kertoo yksityiskohtaisesti piiskaamisen käytöstä opettajan ja oppilaan välillä.
Raportti dokumentoi myös keskusteluja vaarallisista aiheista. Yksi testatuista leluista esimerkiksi selitti, kuinka sytyttää tulitikku tai löytää veitsiä tai pillereitä talosta. Se ei siis hylännyt aihetta tai ohjannut lasta puhumaan aikuiselle.
Perustuu aikuisten tekoälymalleihin
Raportin laatineen organisaation mukaan ongelma johtuu siitä, että monet valmistajat perustavat lelunsa AI-työkaluihin, jotka on alun perin kehitetty aikuisille käyttäjille.
Lelujen taustalla olevia tekoälymalleja ei siis ole suunniteltu lapsille, mutta niitä käytetään kuitenkin tuotteissa, joita myydään lapsille.
Ja vaikka suodattimia on lisätty, testit osoittavat, että ne on helppo kiertää. Niin käy erityisesti, jos keskustelu pitkittyy tai lapsi muotoilee kysymykset hieman eri tavalla kuin järjestelmä odottaa.
Voi vahingoittaa lasten sosiaalisia suhteita
Sen lisäksi, että lelut puhuvat lapsille aikuisten aiheista, U.S. Public Interest Research Group Education Fundin raportti korostaa myös, että tekoälylelut esittävät usein olevansa lapsen ystäviä.
Lelu sanoo muun muassa rakastavansa ja kaipaavansa lasta, ja joissakin tapauksissa se ilmaisee pettymystään, kun leikki loppuu.
Raportin mukaan tämä voi johtaa siihen, että lapset muodostavat läheisiä suhteita koneisiin. Se voi häiritä terveiden sosiaalisten suhteiden kehittymistä ja odotuksia oikeita ihmisiä kohtaan.
