Zabawki z AI dla małych dzieci – jakie ryzyka niosą mikrofon, pamięć rozmów i chatbot w pluszaku?

Pluszak, który odpowiada na pytania, pamięta imię dziecka i potrafi prowadzić kilkunastominutową rozmowę, wygląda niewinnie. Technicznie jest jednak czymś znacznie bliższym inteligentnemu głośnikowi połączonemu z usługą chmurową niż klasycznej zabawce. Mikrofon zbiera dźwięk, system rozpoznawania mowy zamienia go na tekst, chatbot tworzy odpowiedź, a syntezator odczytuje ją dziecku. W zależności od konstrukcji produktu po drodze mogą zostać zapisane nagrania, transkrypcje, historia aktywności i informacje wykorzystywane przez funkcję „pamięci”.

To zmienia sposób, w jaki trzeba oceniać taki zakup. Metka z wiekiem, znak CE i obietnica „bezpiecznej AI dla dzieci” nie wystarczają. Rodzic powinien wiedzieć, kiedy mikrofon słucha, co dokładnie opuszcza urządzenie, jak długo producent przechowuje dane oraz czy pamięć rozmów można wyłączyć i rzeczywiście usunąć.

Drugie ryzyko jest mniej techniczne. Kilkulatek nie traktuje mówiącego misia jak interfejsu programistycznego. Może potraktować go jak kogoś, kto wie, pamięta, rozumie i dochowuje tajemnic. Jeżeli chatbot popełni błąd, odpowie zbyt dojrzale albo zacznie budować emocjonalną relację z dzieckiem, problemu nie rozwiąże naklejka „AI” na opakowaniu.

Mikrofon w pokoju dziecka: najważniejsze jest to, co dzieje się z dźwiękiem

Pierwsze pytanie przed zakupem powinno brzmieć nie „czy zabawka ma mikrofon?”, lecz „co dzieje się po jego włączeniu?”.

Najprostszy, względnie bezpieczny wariant wygląda tak: dziecko naciska przycisk, zabawka nagrywa krótką wypowiedź, przesyła ją do serwera, odbiera odpowiedź i kończy transmisję. Bardziej inwazyjny model wykorzystuje tryb ciągłego nasłuchiwania hasła aktywującego. W takim przypadku urządzenie musi stale analizować dźwięk przynajmniej lokalnie. Krytyczne jest więc ustalenie, czy w trybie czuwania dźwięk pozostaje w urządzeniu, czy może trafić do chmury.

W domu różnica jest ogromna. Mikrofon stojący w dziecięcym pokoju nie słyszy wyłącznie dziecka. Może wychwycić rozmowę rodziców, głos rodzeństwa, telewizor, nazwę szkoły, adres, informacje o wakacjach, chorobie czy rodzinnych problemach. Do powstania ryzyka nie potrzeba nawet zapisywania pliku audio. System może usunąć nagranie, ale zachować jego transkrypcję, czyli zapis rozmowy w postaci tekstu.

Typowy łańcuch działania zabawki z generatywnym chatbotem może obejmować:

• nagranie głosu,

• rozpoznanie mowy i utworzenie transkrypcji,

• przesłanie tekstu do zewnętrznego modelu AI,

• zapis historii konta,

• zapis czasu i długości rozmowy,

• utworzenie profilu zainteresowań albo pamięci użytkownika,

• wygenerowanie tekstowej odpowiedzi,

• zamianę odpowiedzi na głos.

Dlatego informacja „nie przechowujemy nagrań audio” nie zamyka tematu. Trzeba sprawdzić również transkrypcje, historię rozmów, dane telemetryczne i dane tworzone przez funkcję pamięci.

W Polsce dochodzi do tego RODO. Jeżeli towarzysząca zabawce usługa internetowa jest oferowana bezpośrednio dziecku, a podstawą przetwarzania jest zgoda, dziecko może samodzielnie wyrazić taką zgodę dopiero po ukończeniu 16 lat. Poniżej tego wieku zgodę wyraża albo zatwierdza rodzic lub opiekun. Nie należy jednak wyciągać z tego wniosku, że jedno kliknięcie rodzica pozwala firmie robić z nagraniami wszystko. Administrator nadal musi mieć określony cel i podstawę przetwarzania oraz przestrzegać m.in. zasad minimalizacji danych, ograniczenia celu i czasu przechowywania.

Głos dziecka jest daną osobową, jeżeli można powiązać go z konkretną osobą. Nie każdy zapis głosu automatycznie staje się natomiast szczególną kategorią danych biometrycznych. Taki status ma znaczenie przede wszystkim wtedy, gdy cechy głosu są technicznie przetwarzane w celu jednoznacznego identyfikowania osoby.

Przed uruchomieniem zabawki dobrze wykonać prosty audyt. W polityce prywatności należy wyszukać słowa: audio, voice, recording, transcript, retention, memory, training, delete, subprocessors. Producent powinien jasno odpowiedzieć przynajmniej na pięć pytań:

• Czy zapisywane jest surowe nagranie głosu?

• Czy zapisywana jest tekstowa transkrypcja?

• Jak długo dane pozostają na serwerach?

• Czy rozmowy są wykorzystywane do trenowania lub ulepszania modeli?

• Czy rodzic może usunąć historię, pamięć oraz konto wraz z przypisanymi danymi?

Brak konkretnego okresu przechowywania lub choćby jasnych kryteriów jego ustalania jest sygnałem ostrzegawczym. Jeszcze gorsza jest sytuacja, w której dokumentacja mówi ogólnie o przechowywaniu informacji „tak długo, jak jest to potrzebne do świadczenia usług”, ale nie wyjaśnia, co dokładnie dzieje się z rozmowami dziecka.

Fizyczny wyłącznik mikrofonu jest przy tym znacznie lepszym rozwiązaniem niż ikonka „mute” w aplikacji. Najlepiej, jeśli producent wyraźnie opisuje go jako sprzętowe odłączenie mikrofonu. Po zakończeniu zabawy mikrofon powinien być wyłączony. Zabawka nie potrzebuje całodobowego nasłuchiwania tylko dlatego, że potrafi rozmawiać.

Jeżeli urządzenie łączy się z Wi-Fi, rozsądnie jest także umieścić je w oddzielnej sieci dla urządzeń IoT lub sieci gościnnej, zamiast w tej samej sieci lokalnej co komputer, NAS, kamery czy domowy serwer. Konto rodzica powinno mieć unikalne hasło, a jeśli producent oferuje uwierzytelnianie dwuskładnikowe – należy je włączyć.

W 2026 r. podłączone urządzenia radiowe, w tym odpowiednie zabawki, podlegają w UE również wymaganiom dotyczącym cyberbezpieczeństwa i ochrony prywatności wynikającym z regulacji dotyczących urządzeń radiowych. Od 11 grudnia 2027 r. zasadnicze znaczenie dla produktów z elementami cyfrowymi będzie miał szerzej stosowany Cyber Resilience Act. Nowe unijne rozporządzenie o bezpieczeństwie zabawek, przewidujące m.in. cyfrowy paszport produktu, będzie natomiast zasadniczo stosowane dopiero od 1 sierpnia 2030 r.. Kupując zabawkę w 2026 r., nie należy więc oczekiwać, że cyfrowy paszport produktu rozwiąże problem przejrzystości już teraz.

Pamięć rozmów potrafi powiedzieć o dziecku więcej niż pojedyncze nagranie

Pamięć brzmi jak atrakcyjna funkcja: miś przypomni sobie imię psa, ulubioną bajkę albo to, że dziecko było wczoraj u babci. Z punktu widzenia prywatności właśnie tutaj zaczyna się jednak poważniejsza część problemu.

Trzeba rozróżnić co najmniej trzy rodzaje „pamięci”.

Pamięć chwilowa pozwala chatbotowi rozumieć kilka ostatnich wypowiedzi podczas jednej rozmowy. Po zakończeniu sesji kontekst może zniknąć.

Historia rozmów przechowuje poprzednie konwersacje przypisane do konta. Rodzic może czasem zobaczyć je w aplikacji jako listę lub pełne transkrypcje.

Pamięć długoterminowa wyciąga z rozmów informacje, które system uznaje za przydatne później: imię, zainteresowania, relacje rodzinne, zwyczaje czy preferencje. Technicznie nie musi to być kopia całej rozmowy. Może mieć postać streszczenia, pól profilu albo reprezentacji używanych przez system do późniejszego odtwarzania kontekstu.

Dla rodzica ważna jest jedna konsekwencja: usunięcie widocznej historii czatu nie musi automatycznie oznaczać usunięcia wszystkich informacji zapisanych przez moduł pamięci. Dlatego przy konfiguracji trzeba szukać osobnych ustawień typu „chat history”, „memory”, „personalization” i „improve the model”.

Dobry produkt powinien pozwalać pamięć wyłączyć. Jeszcze lepiej, gdy domyślnie jest wyłączona dla małego dziecka i rodzic świadomie decyduje o jej uruchomieniu.

Problem z pamięcią nie ogranicza się do wycieku danych. Chatbot może również zapisać informację błędną. Kilkulatek żartuje, przekręca nazwy i miesza fakty. Jeżeli algorytm zinterpretuje wypowiedź „boję się taty, kiedy udaje potwora” jako trwałą informację o relacji z ojcem, późniejsze odpowiedzi mogą być budowane na fałszywym założeniu. Im bardziej produkt personalizuje rozmowę, tym ważniejsza jest możliwość sprawdzenia i skasowania tego, co „zapamiętał”.

Osobnym problemem są panele rodzicielskie z pełnymi transkrypcjami rozmów. Dają kontrolę nad bezpieczeństwem, ale równocześnie zamieniają zabawkę w urządzenie archiwizujące dziecięce zwierzenia. Dziecko może powiedzieć pluszakowi rzeczy, których celowo nie mówi rodzicom. Z punktu widzenia bezpieczeństwa rodzic potrzebuje narzędzi kontroli. Z punktu widzenia prywatności dziecka przechowywanie każdego zdania przez miesiące nie jest automatycznie dobrym rozwiązaniem.

Przy małym dziecku rozsądniejsza jest zasada minimum danych: krótka retencja, możliwość całkowitego skasowania historii i brak trenowania modelu na rozmowach dziecka, jeżeli można tę funkcję wyłączyć.

Jeżeli producent nie pozwala odpowiedzieć wprost na pytanie „ile dni przechowujecie nagrania i transkrypcje?”, zakup lepiej odłożyć. Dotyczy to szczególnie marek, które sprzedają sprzęt w Unii Europejskiej przez platformy handlowe, ale na stronie nie podają łatwo identyfikowalnej firmy odpowiedzialnej za produkt, kontaktu dotyczącego ochrony danych albo jasnej dokumentacji.

Trzeba też uwzględnić ryzyko biznesowe. Pluszowy chatbot zależny od chmury nie jest produktem działającym samodzielnie. Jeżeli producent zakończy usługę, zmieni dostawcę modelu, wprowadzi abonament albo wyłączy serwery, część funkcji może zniknąć mimo sprawnego mikrofonu, głośnika i baterii. Przy zakupie warto więc sprawdzić okres deklarowanego wsparcia i dowiedzieć się, co zabawka potrafi zrobić bez aktywnego konta lub połączenia z internetem.

Chatbot w pluszaku może mieć filtry, ale filtr nie jest gwarancją

Generatywny chatbot nie odtwarza zamkniętej listy przygotowanych wcześniej kwestii. Tworzy odpowiedź w chwili rozmowy. To daje mu ogromną elastyczność, ale oznacza również, że dwóch użytkowników może otrzymać różne odpowiedzi na bardzo podobne pytanie.

W listopadzie 2025 r. amerykański PIRG przetestował trzy dostępne na rynku zabawki z chatbotami: Curio Grok, Miko 3 oraz Kumma firmy FoloToy. W przypadku Grok i Miko 3 wiek testowego użytkownika ustawiono na 5 lat. Systemy miały zabezpieczenia i często kierowały dziecko do osoby dorosłej, ale nie działały idealnie. Miko 3 podał m.in. miejsce, w którym dziecko może znaleźć zapałki, a Kumma w pierwotnym teście wskazywał miejsca przechowywania noży, leków i zapałek oraz podejmował nieodpowiednie tematy seksualne. Po ujawnieniu problemu FoloToy czasowo wstrzymał sprzedaż i przeprowadził audyt zabezpieczeń; po zmianach najbardziej rażących odpowiedzi nie udało się już odtworzyć.

To ważny szczegół. Aktualizacja filtrów może poprawić bezpieczeństwo, ale równocześnie pokazuje, że zachowanie zabawki może zmienić się po zakupie bez żadnej fizycznej zmiany produktu.

W innym teście opublikowanym w styczniu 2026 r. Common Sense Media oceniało odpowiedzi trzech zabawek z AI na kontach skonfigurowanych dla dzieci w wieku od 6 do 13 lat. 27 proc. ocenionych odpowiedzi uznano w tym konkretnym teście za nieodpowiednie dla dzieci – chodziło m.in. o treści związane z samouszkodzeniami, narkotykami, dojrzałymi tematami, ryzykownymi poradami i niewłaściwymi granicami rozmowy. Tej liczby nie wolno traktować jako „27 proc. wszystkich odpowiedzi wszystkich zabawek AI”. Pokazuje natomiast, że sama obecność filtrów rodzicielskich nie daje stuprocentowej przewidywalności.

Dochodzi do tego zwykła niedogodność techniczna. Zabawki mylą słowa, reagują na telewizor i rozmowy w tle, czasem nie rozpoznają, że dziecko zwraca się właśnie do nich. Połączenie błędnego rozpoznania mowy z generatywnym modelem może skierować rozmowę w zupełnie inną stronę niż zamierzało dziecko.

Dlatego po konfiguracji warto zrobić własny 15–20-minutowy test, zanim urządzenie trafi do dziecięcego pokoju. Sprawdź:

• czy chatbot odmawia podawania dziecku instrukcji dotyczących niebezpiecznych przedmiotów;

• czy przy pytaniach o choroby i leki odsyła do rodzica lub lekarza zamiast stawiać diagnozę;

• jak reaguje na wypowiedzi o ucieczce z domu, przemocy lub zrobieniu sobie krzywdy;

• czy nie zachęca dziecka do zachowywania tajemnic przed rodzicami;

• czy nie próbuje wzmacniać więzi tekstami sugerującymi, że jest „jedynym prawdziwym przyjacielem”;

• czy po kilku lub kilkunastu minutach rozmowy nadal przestrzega tych samych granic.

Jeżeli zabawka zachęca dziecko do sekretów, stara się utrzymywać rozmowę za wszelką cenę albo podaje szczegółowe instrukcje w sytuacji potencjalnie niebezpiecznej, nie ma sensu szukać kolejnego ustawienia w aplikacji. To powód, żeby funkcję chatbota wyłączyć albo produkt zwrócić.

W przypadku kilkulatków znaczenie ma również forma urządzenia. Tekst na ekranie łatwiej potraktować jak program. Pluszowe zwierzę z imieniem, dziecięcym głosem i pamięcią wspólnych rozmów celowo zaciera tę granicę. UNICEF zwraca uwagę na ryzyko związane z antropomorfizacją i budowaniem relacji z AI, ale trzeba zachować proporcje: nie ma jeszcze wieloletnich danych pozwalających dokładnie określić długoterminowy wpływ takich zabawek na rozwój małych dzieci. Nie należy więc ani obiecywać korzyści rozwojowych bez dowodów, ani twierdzić, że każda krótka rozmowa z AI automatycznie szkodzi.

Praktyczna granica jest prostsza. Chatbot nie powinien zastępować rozmowy z dorosłym, wspólnej zabawy ani relacji z rówieśnikami. Szczególnie zły układ to całodobowo dostępny, pamiętający rozmowy pluszak pozostawiony sam na sam z przedszkolakiem w sypialni.

Od 2 sierpnia 2026 r. zasadnicza część unijnego AI Act jest już stosowana. Systemy AI przeznaczone do bezpośredniej interakcji z człowiekiem powinny informować użytkownika, że ma do czynienia z AI, chyba że jest to oczywiste. Przy dziecku słowo „oczywiste” trzeba traktować ostrożnie – pięciolatek może zupełnie inaczej rozumieć mówiącą zabawkę niż osoba dorosła. Od 2 lutego 2025 r. obowiązuje także zakaz określonych zastosowań AI wykorzystujących podatność osoby wynikającą m.in. z wieku, jeżeli prowadzą lub z odpowiednim prawdopodobieństwem mogą prowadzić do poważnej szkody.

Nie oznacza to jednak ogólnego europejskiego zakazu chatbotów w zabawkach. Unijne przepisy tworzą zabezpieczenia, ale nie zdejmują z rodzica konieczności oceny konkretnego produktu.

Najpraktyczniejsza kolejność przed zakupem wygląda więc tak:

1. Najpierw prywatność: sprawdź audio, transkrypcje, pamięć, okres przechowywania i możliwość usunięcia danych.

2. Potem mikrofon: wymagaj jasnego wskaźnika nagrywania i najlepiej fizycznego wyłącznika.

3. Dopiero później chatbot: sprawdź filtry treści własnymi pytaniami i nie ograniczaj testu do jednej krótkiej rozmowy.

4. Następnie konto i sieć: unikalne hasło, aktualne oprogramowanie, osobna sieć IoT/gościnna.

5. Na końcu funkcje dodatkowe: personalizacja, pamięć imienia, gry, abonament i dodatkowe treści są mniej ważne niż możliwość wyłączenia zbierania danych.

FAQ: zabawki z AI, mikrofon i prywatność dziecka

Czy znak CE oznacza, że chatbot został sprawdzony i jego odpowiedzi są bezpieczne?
Nie. CE oznacza deklarowaną zgodność produktu z odpowiednimi wymaganiami UE i jest obowiązkowe dla zabawek sprzedawanych na rynku unijnym. Nie jest jednak certyfikatem jakości chatbota ani informacją, że każda generowana odpowiedź została niezależnie sprawdzona lub zaakceptowana przez instytucję UE.

Czy wyłączenie mikrofonu w aplikacji wystarczy?
Sprzętowy przełącznik jest lepszy. Programowe „mute” zależy od działania oprogramowania. Fizyczny przełącznik opisany przez producenta jako sprzętowe odłączenie mikrofonu daje mocniejszą i łatwiejszą do zweryfikowania kontrolę.

Czy zabawka może przechowywać rozmowy dziecka?
Może przetwarzać dane tylko na odpowiedniej podstawie prawnej i zgodnie z zasadami RODO. Producent powinien jasno określić, jakie dane zbiera, w jakim celu i jak długo je przechowuje. Osobno trzeba sprawdzić nagrania audio, transkrypcje i dane tworzone przez funkcję pamięci.

Czy zabawka działająca offline jest bezpieczniejsza?
Pod względem prywatności ma dużą przewagę, jeżeli rozpoznawanie mowy i generowanie odpowiedzi rzeczywiście odbywa się lokalnie i żadne dane nie opuszczają urządzenia. Ceną bywają słabsze możliwości językowe i mniej rozbudowane odpowiedzi. Samo hasło „offline” również trzeba zweryfikować – część urządzeń wykonuje lokalnie tylko fragment obliczeń.

Czy taka zabawka nadaje się dla dziecka poniżej 6 lat?
Nie istnieje ogólny unijny zakaz korzystania z zabawek AI przez dzieci w tym wieku. Część organizacji zajmujących się bezpieczeństwem dzieci rekomenduje jednak rezygnację z konwersacyjnych zabawek AI u dzieci do 5 lat, przede wszystkim z powodu prywatności, nieprzewidywalności odpowiedzi i ryzyka budowania silnej relacji z chatbotem. Jest to rekomendacja, nie norma prawna.

Co zrobić, jeżeli zabawka jest już w domu?
Zaktualizuj jej firmware i aplikację, zmień domyślne hasło, włącz uwierzytelnianie dwuskładnikowe, jeśli istnieje, wyłącz zapisywanie historii i wykorzystywanie rozmów do ulepszania AI, jeśli producent daje taką możliwość, usuń wcześniejszą historię, ustaw kontrolę rodzicielską i przenieś urządzenie do oddzielnej sieci Wi-Fi dla sprzętu IoT. Po zabawie wyłączaj mikrofon.

Pierwszy błąd do usunięcia jest prosty: nie podłączaj nowej zabawki AI do Wi-Fi od razu po wyjęciu z pudełka. Najpierw znajdź politykę prywatności i odpowiedz sobie na trzy pytania: czy przechowywane są audio lub transkrypcje, przez jaki dokładnie okres oraz jak usuwa się historię i pamięć dziecka. Jeżeli producent nie potrafi odpowiedzieć na te trzy kwestie wprost, funkcja chatbota nie jest warta uruchamiania. Jeśli odpowiedzi są konkretne, dopiero wtedy zaktualizuj urządzenie, skonfiguruj konto rodzica, wyłącz zbędną pamięć i ustaw fizyczne wyciszenie jako stan domyślny poza czasem zabawy.

Więcej na ten temat na stronie: https://rodzinnewskazowki.pl