Mbikëqyrësi i medias në Mbretërinë e Bashkuar, Ofcom, ka nisur një hetim ndaj platformës së mediave sociale X të Elon Musk, lidhur me përdorimin e chatbot-it të inteligjencës artificiale Grok për të gjeneruar imazhe seksualisht eksplicite dhe pa konsensus.
Në një deklaratë, Ofcom tha se kishte marrë “raporte thellësisht shqetësuese” për përdorimin e chatbot-it për krijimin dhe shpërndarjen e imazheve të zhveshura të njerëzve, si dhe për imazhe të seksualizuara të fëmijëve.
Grok është falas për t’u përdorur në platformën X që nga viti 2023, dhe verën e kaluar kompania shtoi funksionin Grok Imagine, duke përfshirë një “modalitet pikant” që mund të gjenerojë përmbajtje për të rritur.
Platforma ishte bllokuar kohët e fundit në Malajzi dhe Indonezi, pasi autoritetet e këtyre vendeve e konsideruan të keqpërdorur për prodhimin e deepfake-ve seksuale pa konsensus.
Ofcom paralajmëroi se nëse X nuk i përmbush kërkesat e rregullatorit, mund të kërkojë nga gjykata një urdhër për të detyruar ofruesit e shërbimeve të internetit të bllokojnë plotësisht aksesin në platformë në Mbretërinë e Bashkuar.
Në rast të shkeljes së ligjit, Ofcom mund të vendosë një gjobë deri në 10% të të ardhurave globale të kompanisë ose 18 milionë paund (rreth 20 milionë euro).
Ky hetim vjen në një kohë kur shqetësimet globale për abuzimin me inteligjencën artificiale në prodhimin e përmbajtjes seksuale pa pëlqim po rriten ndjeshëm.