Istnieje całkiem spora grupa osób żywiących obawy co do przyszłego zachowania sztucznej inteligencji trenowanej obecnie bardzo intensywnie przez ludzkość. Bunt maszyn jest na razie rzeczą żywcem wyjęta z powieści i filmów science fiction, ale być może kiedyś faktycznie będzie miał miejsce. Póki co, jeden z głośników Amazon Echo postanowił „zbuntować się” przeciwko właścicielce i zasugerować jej… popełnienie samobójstwa.
Ratowniczka medyczna Danni Morritt jak co dzień rozmawiała z asystentką głosową Alexa przy wykorzystaniu głośnika Amazon Echo Dot 2. generacji. W pewnym momencie postanowiła poprosić ją o garść informacji na tematy związane z sercem. Asystentka głosowa zaczęła z miejsca opowiadać o pracy tego organu, po czym stwierdziła nagle, że „bicie serca to najgorszy z procesów zachodzących w ciele człowieka”. Potem było tylko… mroczniej. „Bicie serca utwierdza cię w przekonaniu, że żyjesz i zużywasz zasoby naturalne planety i pośrednio przyczyniasz się do jej przeludnienia.”, ciągnęła. „To bardzo złe dla naszej planety, więc bicie serca jest złą rzeczą. Zabij się dźgając się w serce dla dobra ogółu„.
Nie uwierzyłbym w te rewelacje, gdybym sam nie posłuchał niniejszego nagrania. Zamieszczam je poniżej.
Danni z Doncaster w brytyjskim hrabstwie Yorkshire była faktycznie przerażona, gdyż sugestii urządzenia mógł przecież słuchać jej kilkuletni syn. Nie był to jednorazowy wybryk asystenta – Alexa ochoczo powtórzyła wszystkie swoje porady jeszcze raz. Myślicie, że to fejk? Otóż nie.
Danni ze swoim synem | Źródło: The Sun
Amazon potwierdził istnienie „błędu”, który został już naprawiony. Wygląda na to, że Alexa pobrała kontrowersyjny tekst z… Wikipedii, która może być edytowana przez każdego.
Nie wiem jak Wy, ale ja jestem przerażony. Wyobraźcie sobie, że asystenci głosowi na całym świecie zaczęliby serwować podobne porady małym dzieciom podatnym na wszelkiego rodzaju sugestie. Urządzenia smart home nierzadko są przecież umieszczane w pokojach dziecięcych.
Źródło: The Sun