Riziko selhání klíčových systémů je reálné, užitečný kontext pro kolegu sledujícího technologické trendy.
AI už opisuje sama sebe Tok příběhu a hlavní fakta
Odborníci z King's College London, Norské univerzity vědy a technologie a Mezinárodního centra pro teoretickou fyziku Abduse Salama v Terstu upozorňují na rostoucí riziko tzv. datového kanibalismu v umělé inteligenci. Jde o situaci, kdy se velké jazykové modely učí především z dat, která už dříve vygenerovaly jiné AI, místo z reálných, lidských zdrojů. Tento cyklus vede ke klesající kvalitě výstupů a může vyústit v tzv. kolaps modelů – stav, kdy AI začíná produkovat výmysly místo přesných odpovědí.
Podle expertů se tento jev může stát realitou už v roce 2026, protože množství nových lidských dat se rychle snižuje. Trénování na datech vytvořených AI vede k opisování a ztrátě přesnosti. Tento problém se neomezuje jen na chatboty, ale může postihnout i životně důležité systémy, jako je autonomní doprava nebo zdravotnické aplikace.
Jako možnou obranu proti kolapsu navrhují odborníci začleňovat do tréninkových dat „zvenčí“ – například znalosti získané od jednodušších modelů nebo ověřené informace mimo AI ekosystém. Cílem je zachovat kvalitu a spolehlivost, i když bude většina dat pocházet z umělé inteligence.
Fakta
- Odborníci varují před tzv. datovým kanibalismem – AI se čím dál častěji učí z dat vygenerovaných jinou AI.
- Pojem „kolaps modelů“ byl poprvé použit v roce 2024 pro situaci, kdy AI začne produkovat výmysly kvůli špatné kvalitě tréninkových dat.
- Experti z King's College London a dalších institucí navrhují do tréninkových dat přidávat informace „zvenčí“, aby se zabránilo kolapsu přesnosti.
- Riziko selhání se neomezuje na chatboty, ale může ovlivnit i klíčovou infrastrukturu, jako jsou autonomní automobily.
Vizuální vysvětlení zpráv od Canto. Při tvorbě mohou pomáhat nástroje AI. Redakční zásady
