Kada AI sistem greši, odgovornost ostaje kod ljudi, daje koristan kontekst kolegi koji prati poslovnu digitalizaciju.
AI greši, ali odgovornost ostaje ljudska Tok priče i ključne činjenice
Kompanija Starbucks je prekinula korišćenje sistema veštačke inteligencije za praćenje zaliha u prodavnicama širom Severne Amerike nakon devet meseci testiranja. Umesto očekivane efikasnosti, AI sistem je pravio ozbiljne greške u identifikaciji proizvoda, što je dovelo do dodatne neizvesnosti u upravljanju zalihama. Zbog toga je kompanija vratila ručnu evidenciju i kontrolu, podsećajući na ograničenja automatskih sistema u realnim uslovima.
Ovaj slučaj otvara širu debatu o odgovornosti u korporativnoj upotrebi veštačke inteligencije. Pravni stručnjaci ističu da AI nije nezavisan donosilac odluka, već refleksija podataka, ciljeva i procedura koje definišu ljudi. Ako su podaci pristrasni ili procesi nejasni, sistem će to reprodukovati. Primer Amazona sa alatom za regrutaciju pokazao je kako AI može naslediti rodnu pristrasnost iz istorijskih podataka.
Pravna odgovornost se ne prenosi na algoritam – čak i kada chatbot dâ pogrešnu informaciju, kao u slučaju Air Canada, kompanija ostaje odgovorna. Pojavljuje se „black box“ problem – teškoća u objašnjenju kako je AI došao do zaključka. Zbog toga kompanije sve više uvode unutrašnja pravila za korišćenje AI alata: kontrolu podataka, obuku zaposlenih i ljudski nadzor nad odlukama.
Činjenice
- Starbucks je ugasio AI sistem za praćenje zaliha nakon devet meseci korišćenja zbog pogrešne identifikacije proizvoda.
- AI sistem je umesto efikasnosti doveo do veće neizvesnosti u upravljanju zalihama u prodavnicama širom Severne Amerike.
- Pravni stručnjaci ističu da kompanije ostaju odgovorne za greške AI sistema, kao što je bio slučaj sa Air Canada chatbotom.
- Amazon je povukao AI alat za regrutaciju jer je sistem pokazivao pristrasnost prema muškim kandidatima.
- Advokatska kancelarija Stojković Advokati naglašava da AI reprodukuje pristrasnosti iz podataka i da ljudi imaju kontrolu nad rizicima.
- Kompanije sve više uvode unutrašnja pravila za korišćenje AI: obuku, proveru rezultata i ljudski nadzor.
Canto vizuelno objašnjenje vesti. AI alati mogu pomoći u produkciji. Urednička politika
Povezane vesti
