Një “shaka” në IA u kthye në alarm real, duke hapur debat mbi përgjegjësinë e adoleshentëve online
Një ngjarje tronditëse ka ndodhur në Florida, ku një 13-vjeçar u arrestua pasi pyeti ChatGPT: “Si mund të vr*s shokun tim të klasës?”. Ngjarja ndodhi gjatë orës së mësimit dhe do të kishte kaluar pa u vënë re, po të mos ishte për sistemin e inteligjencës artificiale Gaggle, që monitoron aktivitetin dixhital të nxënësve në më shumë se 1500 shkolla në SHBA.
Sistemi identifikoi fjalët kyçe dhe ngriti një alarm automatik, duke njoftuar menjëherë stafin e sigurisë së shkollës dhe policinë. Oficeri i sigurisë e përballi nxënësin, i cili tha se gjithçka ishte thjesht një shaka me mikun e tij.
Megjithatë, autoritetet nuk e morën situatën lehtë. Nxënësi u arrestua dhe pamjet e tij me pranga u shpërndanë shpejt online, duke nxitur reagime të ndryshme mes prindërve, mësuesve dhe përdoruesve të rrjeteve sociale.
Zyra e sherifit publikoi një deklaratë paralajmëruese: “Një tjetër rast kur një ‘shaka’ u kthye në emergjencë. Prindër, flisni me fëmijët tuaj për pasojat e fjalëve që thonë edhe online.”
Ngjarja ka nxitur debat: a ishte arrestimi një masë e nevojshme për të parandaluar tragjeditë, apo një dënim i tepruar ndaj një adoleshenti që nuk e kupton ende peshën e fjalëve të tij? Një gjë është e sigurt – në epokën e AI, çdo fjalë e shkruar mund të ndezë sirenat.
