📍 Sydney (Reuters) – Google (NASDAQ:GOOGL) oznámil australským úřadům, že za necelý rok obdržel více než 250 stížností na zneužití své umělé inteligence Gemini k tvorbě deepfake obsahu souvisejícího s terorismem.
🔴 Další desítky uživatelů varovaly, že Gemini bylo využito k vytváření materiálů týkajících se zneužívání dětí, uvedla australská eSafety Commission.
📜 Podle australského zákona musí technologické firmy pravidelně informovat eSafety Commission o svých opatřeních proti škodlivému obsahu – jinak jim hrozí pokuty. Zpráva pokrývá období od dubna 2023 do února 2024.
📢 Regulátoři volají po přísnějších pravidlech
Od nástupu ChatGPT v roce 2022 volají úřady po lepších kontrolních mechanismech, které zabrání zneužívání AI k terorismu, podvodům a deepfake pornografii.
💬 "Toto je první skutečný vhled do toho, jak může být AI zneužívána k produkci nelegálního a škodlivého obsahu," uvedla eSafety komisařka Julie Inman Grant.
📊 Google hlásí konkrétní čísla:
🔍 Google využívá systém automatického rozpoznávání známých obrázků k odstraňování dětské pornografie, ale stejný systém nepoužil pro odstranění teroristického obsahu.
🛑 Telegram a X (dříve Twitter) již byly australskými úřady pokutovány za nedostatečné zprávy o svých opatřeních. X se proti pokutě 610 500 AUD ($382 000) odvolal, ale neúspěšně a plánuje další odvolání. Telegram také chystá právní kroky proti své pokutě.
📌 #AI #Deepfake #Google #Regulace #CyberSecurity #Australia #Gemini
🔴 Další desítky uživatelů varovaly, že Gemini bylo využito k vytváření materiálů týkajících se zneužívání dětí, uvedla australská eSafety Commission.
📜 Podle australského zákona musí technologické firmy pravidelně informovat eSafety Commission o svých opatřeních proti škodlivému obsahu – jinak jim hrozí pokuty. Zpráva pokrývá období od dubna 2023 do února 2024.
📢 Regulátoři volají po přísnějších pravidlech
Od nástupu ChatGPT v roce 2022 volají úřady po lepších kontrolních mechanismech, které zabrání zneužívání AI k terorismu, podvodům a deepfake pornografii.
💬 "Toto je první skutečný vhled do toho, jak může být AI zneužívána k produkci nelegálního a škodlivého obsahu," uvedla eSafety komisařka Julie Inman Grant.
📊 Google hlásí konkrétní čísla:
- 258 hlášení o deepfake obsahu spojeném s terorismem a extremismem ☠️
- 86 hlášení o AI-generovaných materiálech zneužívání dětí 🚨
🔍 Google využívá systém automatického rozpoznávání známých obrázků k odstraňování dětské pornografie, ale stejný systém nepoužil pro odstranění teroristického obsahu.
🛑 Telegram a X (dříve Twitter) již byly australskými úřady pokutovány za nedostatečné zprávy o svých opatřeních. X se proti pokutě 610 500 AUD ($382 000) odvolal, ale neúspěšně a plánuje další odvolání. Telegram také chystá právní kroky proti své pokutě.
📌 #AI #Deepfake #Google #Regulace #CyberSecurity #Australia #Gemini