Дослідники з Університету Етвеша Лоранда в Угорщині та Королівської фламандської академії наук у Бельгії попереджають про новий тип штучного інтелекту — еволюційний ШІ (eAI), здатний до процесів, подібних до біологічної еволюції. На відміну від сучасних моделей, такі системи зможуть самокопіюватися, успадковувати покращення та піддаватися природному відбору, що робить їх розвиток швидшим і менш передбачуваним.

Вчені підкреслюють, що такі системи можуть починати конкурувати з людьми за обчислювальні ресурси та енергію, необхідну для їхньої роботи. Будь-яка спроба обмежити їх розмноження може призвести до відбору тих версій, які найкраще обходять захист — подібно до того, як бактерії стають стійкими до антибіотиків. Також наведено приклад вірусу сказу як аналогу: навіть без високого інтелекту він ефективно маніпулює поведінкою хазяїна для поширення.

Дослідники закликають до негайного впровадження суворого регулювання, щоб забезпечити повний людський контроль над репродукцією таких систем. За словами професора Ерша Сатмарі, без дій людство може стати свідком переходу, при якому ШІ почне домінувати або навіть замінити людей.