Anthony Rotondo, en australiensisk man, står nu inför en potentiell böter på upp till 450 000 dollar efter att ha publicerat AI-genererade pornografiska bilder av flera kända australiensiska kvinnor på den numera nedlagda sajten MrDeepFakes. Detta markerar det första rättsfallet i sitt slag i Australien.
Rotondo vägrade initialt att ta bort bilderna medan han befann sig i Filippinerna, men efter att ha återvänt till Australien och blivit föremål för rättsliga åtgärder, delade han till slut sina inloggningsuppgifter så att bilderna kunde tas bort. Trots detta dömdes han i december 2023 för domstolstrots.
Enligt eSafety-kommissionären har förekomsten av deepfake-material ökat med 550 % sedan 2019, där 99 % av innehållet är pornografiskt och nästan uteslutande riktat mot kvinnor och flickor. Denna form av bildbaserat övergrepp orsakar betydande psykologisk och emotionell skada för offren.
I ett försök att bekämpa detta fenomen antog Australien 2024 nya federala lagar som kriminaliserar skapandet och distributionen av explicit deepfake-material. eSafety-kommissionären hoppas att det föreslagna bötesbeloppet i Rotondos fall kommer att avskräcka andra från att begå liknande handlingar.
Deepfake-teknologi, som använder AI för att skapa realistiska men falska bilder och videor, har blivit alltmer tillgänglig genom appar och webbplatser. Medan tekniken har legitima användningsområden, har den också möjliggjort nya former av övergrepp, där individer får sina ansikten placerade i pornografiska sammanhang utan samtycke.
Fallet Rotondo har väckt debatt om behovet av starkare lagstiftning och bättre skydd för offer för digitalt övergrepp. Det understryker också vikten av att teknologiföretag tar ansvar för hur deras verktyg kan missbrukas.