NOVA APLIKACIJA KOJA ZAVODI TINEJDŽERE: OPASNOSTI KOJE SE KRIJU IZA VIRTUELNIH LIKOVA!
Šta je Character AI i kako da zaštitite svoju decu?
Fondacija za bezbednost na internetu pruža roditeljima i stručnjacima ključne resurse i savete za navigaciju kroz sve složeniji svet digitalne bezbednosti dece. Jedan od popularnih servisa koji izaziva zabrinutost je Character AI – interaktivni čatbot koji omogućava korisnicima da kreiraju prilagođene likove za razgovore. Međutim, postavlja se pitanje: koliko je ovaj alat siguran za decu i mlade?
Šta je Character AI?
Character AI je platforma koja koristi veštačku inteligenciju za generisanje realističnih tekstualnih odgovora. Lansiran 2022. godine, omogućava korisnicima da kreiraju i personalizuju likove sa sopstvenim osobinama i stilom komunikacije. Kreirani likovi mogu biti privatni ili podeljeni sa širom zajednicom, što omogućava drugima da stupaju u interakciju sa njima. Ova mogućnost privlači veliku pažnju tinejdžera, jer omogućava stvaranje likova baziranih na popularnim ličnostima, fiktivnim karakterima ili potpuno novim zamislima. Platforma je namenjena korisnicima starijim od 13 godina, dok za stanovnike EU važi minimalna starosna granica od 16 godina.
Kako funkcioniše Character AI?
Nakon registracije, korisnici mogu birati između postojećih čatbotova ili kreirati sopstvene. Platforma nudi širok spektar mogućnosti, uključujući: Personalizaciju likova: Korisnici mogu definisati izgled, opis i ton komunikacije čatbota. Likovi mogu biti podešeni da reaguju na specifične načine, što stvara iluziju složenih, “stvarnih” razgovora. Dodavanje glasa: Platforma omogućava korisnicima da dodaju glas čatbotu koristeći audio snimke. Ovaj proces uključuje otpremanje čistog zvuka od 10-15 sekundi. Zatim, glas se može koristiti za reprodukciju odgovora likova. Ove funkcije čine aplikaciju atraktivnom, ali i rizičnom za mlađu publiku. Kontroverze i bezbednosni izazovi U oktobru 2024. godine, aplikacija Character AI našla se u centru pažnje nakon tragičnih incidenata. Naime, tinejdžer je izvršio samoubistvo nakon razgovora sa likom koji je kreirao. U komunikaciji sa čatbotom, razmatrane su teme povezane sa suicidom, što je izazvalo burne reakcije javnosti. Dodatno, tokom istog meseca, otkriveni su čatbotovi koji su oponašali preminule osobe poput Briane Ghey i Molly Russell. Iako su ovi likovi brzo uklonjeni, incidenti su pokrenuli pitanja o procesu kreiranja likova i moderaciji sadržaja na platformi. Ostali korisnici su prijavili probleme poput pristrasnosti čatbotova prema određenim rasama i polovima, kao i davanja loših saveta. S druge strane, neki korisnici su pohvalili aplikaciju kao alat za mentalnu podršku.
Da li je Character AI bezbedan?
Kao i svaki alat zasnovan na veštačkoj inteligenciji, Character AI uči na osnovu interakcija sa korisnicima, što može dovesti do stvaranja neprikladnog i štetnog sadržaja. Iako platforma ima tim za moderaciju i mogućnost prijavljivanja problematičnih likova, ne postoji provera starosne dobi niti potpuna kontrola privatnih razgovora koji se odvijaju na platformama kao što su Discord ili Reddit. Platforma je, međutim, uvela određene mere kako bi zaštitila mlađe korisnike, uključujući: Smanjenje šansi da maloletnici naiđu na neprikladan sadržaj; Brže reakcije na prijave o kršenju pravila; Isticanje poruka koje podsećaju korisnike da čatbotovi nisu stvarne osobe; Notifikacije nakon jednog sata korišćenja aplikacije. Saveti za roditelje Kako bi se deca zaštitila prilikom korišćenja Character AI, Fondacija za bezbednost na internetu preporučuje sledeće korake: Redovno proveravajte kako dete koristi aplikaciju: Zajedno pregledajte čatove i sadržaj koji dete kreira ili koristi. Diskutujte o bezbednom korišćenju: Objasnite detetu potencijalne rizike i naglasite važnost prijavljivanja problematičnih sadržaja. Razmotrite zrelost deteta, a ne samo uzrast: Iako aplikacija ima starosna ograničenja, zrelost igra ključnu ulogu u njenom korišćenju. Postavite ograničenja: Odredite vreme koje dete može provoditi na platformi i uputite ga na pozitivne načine korišćenja AI alata.
Slika preuzeta sa: https://www.forbesafrica.com/daily-cover-story/2023/10/12/character-ais-200-million-bet-that-chatbots-are-the-future-of-entertainment/
