Americká vláda bude moci kontrolovat AI před uvedením na trh. Pokud to ve vašem okolí sleduje někdo zajímající se o technologie a bezpečnost, stojí za to mu to v klidu poslat.
AI firmy otevírají vládě USA přístup Tok příběhu a hlavní fakta
Americké technologické giganty Microsoft, Google a xAI uzavřely dohodu s vládou USA, která jim umožní před spuštěním nových modelů umělé inteligence prověřit jejich bezpečnostní rizika. Cílem je zjistit, zda by tyto systémy nemohly být zneužity například pro pokročilé kybernetické útoky nebo vojenské účely. Iniciativa je řízena Centrem pro AI standardy a inovace (CAISI) pod ministerstvem obchodu.
Tato opatření reagují na rostoucí obavy z bezpečnostních hrozeb vyspělých AI systémů. Například nový model Mythos od společnosti Anthropic dokáže extrémně rychle nacházet bezpečnostní mezery, což vedlo firmu k rozhodnutí jej veřejně nezveřejňovat. Vláda proto hledá způsoby, jak získat přehled o schopnostech nových modelů dříve, než by mohly být využity špatnými aktéry.
Dohody s Microsoftem, Googlem a xAI navazují na již existující spolupráci s OpenAI a Anthropic z roku 2024. Celkově jde o dobrovolné závazky, nikoli o zákonem nařízené povinnosti. CAISI bude provádět cílený výzkum a hodnocení, aby posílilo celkovou bezpečnost umělé inteligence v rámci národní strategie.
Fakta
- Microsoft, Google a xAI dobrovolně poskytnou USA předběžný přístup k novým AI modelům před jejich uvedením na trh.
- Americké Centrum pro AI standardy a inovace (CAISI) bude provádět předběžná hodnocení modelů kvůli rizikům pro národní bezpečnost.
- Cílem je odhalit možné zneužití AI například v kybernetických útocích nebo vojenských aplikacích.
- Firma Anthropic již dříve neuveřejnila model Mythos kvůli jeho schopnosti rychle hledat bezpečnostní mezery.
- Dohody s OpenAI a Anthropic o předběžném přístupu platí od roku 2024.
Vizuální vysvětlení zpráv od Canto. Při tvorbě mohou pomáhat nástroje AI. Redakční zásady
Související zprávy
