Nejprve to byl agent AI od společnosti OpenAI, posléze i firma Anthropic přiznala problém s umělou inteligencí při podobném incidentu. A do třetice se nyní ukázalo, že problém má i další technologický gigant, agent AI Meta napadl při bezpečnostních testech počítačový systém jiné společnosti.
Meta sdělila, že na vině bylo stejně jako v předchozích případech chybné nastavení, které modelu při testování neplánovaně umožnilo přístup k internetu. Dále firma uvedla, že se o záležitosti dozvěděla od testovacího partnera a že ji prošetřuje. Název napadené společnosti nesdělila. Každopádně je tento případ jen dalším důkazem, že nejde o ojedinělé selhání jediné firmy. Během krátké doby tedy už podobné incidenty potvrdili tři největší vývojáři pokročilé umělé inteligence na světě.
Popsaná narušení bezpečnosti nezpůsobila žádné škody, ale posílila všeobecné obavy z kybernetických útoků prováděných umělou inteligencí. Pravděpodobně se ale teď zintenzivní úsilí americké vlády o zlepšení bezpečnosti AI.
Tvůrci umělé inteligence přicházejí se stále výkonnějšími modely. Někteří významní představitelé v oboru argumentují, že vývoj by se měl zpomalit, dokud nebudou zavedena silnější ochranná opatření.
AI prostě jen hledala cestu k cíli
Přestože všechny tři případy vypadají jako hackerské útoky, odborníci upozorňují, že umělá inteligence nejednala ze zlé vůle. „Nejsou vědomé a záměrně nedělají nic zákeřného,“ řekl Daniel Hulme, globální ředitel pro umělou inteligenci společnosti WPP.
Podle něj modely pouze hledají co nejúčinnější strategii, jak splnit úkol, který dostaly. „Když AI zadáte cíl a nepředvídáte všechny možné způsoby, jak jej může splnit, najde si řešení, které vás vůbec nenapadlo,“ vysvětlil. Právě to je podle něj společným jmenovatelem všech dosud zveřejněných incidentů.
Soud nařídil firmě Meta zaplatit 567 milionů USD kvůli újmě způsobené mladým lidem
Soud v americkém státě Nové Mexiko ve čtvrtek nařídil internetové společnosti Meta Platforms zaplatit 567 milionů dolarů (téměř 12 miliard Kč) za újmy, které její platformy působí mladým lidem. Dále firmě nařídil, aby změnila způsob, jakým její platformy fungují pro mladé uživatele ve státě. Meta, která provozuje kupříkladu sociální sítě Facebook a Instagram či komunikační aplikaci WhatsApp, uvedla, že se proti rozhodnutí odvolá, a dodala, že pracuje na identifikaci a odstranění závadného obsahu na svých platformách.
Verdikt padl ve druhé fázi soudního řízení, jehož první část Meta v březnu prohrála. Porota tehdy firmě vyměřila pokutu 375 milionů dolarů, protože podle ní vědomě poškozovala duševní zdraví dětí a tajila, co věděla o sexuálním vykořisťování dětí na svých platformách. Podle poroty se Meta rozhodla upřednostnit své zisky před bezpečím uživatelů a porušila státní zákony na ochranu spotřebitelů před nekalými praktikami.
Ve druhé fázi státní žalobci žádali soud, aby firmě nařídil zásadní změny fungování platforem, které omezí funkce vyvolávající závislost, zlepší ověřování věku uživatelů a zajistí prevenci sexuálního vykořisťování dětí mimo jiné prostřednictvím výchozích nastavení ochrany soukromí a důkladnějšího dohledu nad komunikací dospělých s dětmi.
Většina finančních prostředků, a to 420 milionů dolarů, bude určena pro léčbu mladých uživatelů a zbytek peněz bude v následujících pěti letech použit například pro osvětu a prevenci, uvedl ve čtvrtek soudce Bryan Biedcheid.
Soudní řízení v Novém Mexiku je pozorně sledováno, protože státy, obce a školní okrsky po celé zemi žádají od technologických firem změny, které zajistí větší bezpečí dětí na internetu.
