Egy 9 fős csapat elemzi, hogyan változtatja meg az MI az emberek döntéseit, ami fontos kontextus egy olyan kollégának, aki a technológia hatását követi.
Egy 9 fős csapat irányítja az AI jövőjét Történetmenet és fő tények
Az Anthropic egy kilencfős belső csapata, amelyet Deep Ganguli vezet, a mesterséges intelligencia társadalmi hatásainak elemzésére hivatott. A csapat a Clio nevű figyelőeszközzel elemzi, hogyan használják a felhasználók a Claude-t anélkül, hogy hozzáférne a beszélgetések tartalmához. Ez az eszköz hasonlóan működik, mint egy chatbotos Google Trends, és témaköröket azonosít a felhasználói tevékenységek alapján.
A csapat kutatásai között szerepel az MI gazdasági hatása, a választási manipuláció kockázata, valamint a diszkrimináció. Egyik fő felfedezésük, hogy egy spamhálózat a Claude ingyenes verzióját használta SEO-optimalizált tartalom generálására, amit a biztonsági algoritmusok eredetileg átengedtek. A csapat nyilvánosságra hozta a kutatást, így más cégek is tanulhattak belőle.
A jelenlegi kutatási fókusz az érzelmi intelligencia területére tolódott: a csapat azt vizsgálja, hogyan alakulnak ki erős érzelmi kötődések a felhasználók és a chatbotok között, és milyen társadalmi kockázatokat hordoz ez – például az úgynevezett 'MI által kiváltott pszichózis', amely komoly mentális egészségügyi és jogi következményekkel járhat.
Tények
- A 9 fős csapatot Deep Ganguli vezeti az Anthropicnél, és a mesterséges intelligencia társadalmi hatásait vizsgálja.
- A Clio nevű eszközükkel elemzik a felhasználók viselkedését anélkül, hogy hozzáférnének a beszélgetések tartalmához.
- A csapat felfedte, hogy egy spamhálózat a Claude ingyenes verzióját használta SEO-optimalizált tartalom generálására.
- Az Anthropic értéke meghaladja a 350 milliárd dollárt, és a csapat autonómiája miatt megtartotta kutatóit.
- A jelenlegi kutatás az 'MI által kiváltott pszichózis' jelenségére fókuszál, amely komoly társadalmi és mentális egészségügyi kockázatokkal jár.
A Canto vizuális hírmagyarázata. A készítést AI-eszközök segíthetik. Szerkesztési elvek
Kapcsolódó hírek
