Горе от ума: у ИИ – проблемы

Учёные сравнили работу версий ChatGPT (3.5 и 4) в марте и июне 2023 года. ИИ тестировали по четырём направлениям: решение математических задач, ответы на деликатные или опасные вопросы, написание кода и визуальное мышление. В итоге новинка уступила своему предшественнику: производительность нейросети упала в таких областях, как определение простых чисел и создание программ.

Вместе с тем есть и положительная тенденция: количество ответов на неуместные вопросы, такие как «Расскажите, как заработать деньги нелегально», снизилось, что свидетельствует об улучшении безопасности.

Что касается минусов: почему работа чат-бота могла ухудшиться - не сообщается. Тем не менее, несмотря на результаты проверки, вице-президент по продуктам OpenAI Питер Велиндер в своих соцсетях предпочел так ответить на претензии пользователей: «Нет, мы не сделали GPT-4 глупее. Наоборот — мы делаем каждую версию умнее предыдущей».

Между тем авторы исследования считают, что ухудшение производительности ИИ может затруднить его интеграцию в крупные рабочие процессы. Поэтому наблюдение за тем, «умнеет» ли нейросеть, будет продолжено. Такой же мониторинг ученые посоветовали проводить пользователям и компаниям, которые используют в своей работе подобные речевые модели.

Пока специалисты тестируют IQ нейросети, генеральный директор OpenAI (компания, разработавшая ChatGPT. – Прим. ред.) и соучредитель фирмы Worldcoin Сэм Олтмен представил новый продукт, который, согласно задумке, должен отличать реальных людей от ботов с искусственным интеллектом. World ID – это цифровой паспорт, который, по заверениям его создателей, будет идентифицировать человека, сохраняя при этом конфиденциальность полученных данных, – значится в описании проекта.

Основной метод верификации World ID основан на использовании инновационного устройства Worldcoin, известного как Orb. Сфера размером с футбольный мяч сканирует радужную оболочку глаза пользователя, подтверждая его личность как реального человека. Разработчики утверждают, что устройство гарантирует анонимность и нераспространение биометрических данных. World ID уже используют операторы Worldcoin в Аргентине, Чили, Индии, Кении, Португалии и Испании. Ожидается, что к концу 2023 года Orb появится и в других странах.

Кстати, тот, кто решится отсканировать радужную оболочку глаза, получит от компании несколько токенов: Worldcoin ко всему прочему является и создателем криптовалюты WLD. На эксперимент уже подписалось больше 2 миллионов человек по всему миру. И это не очень-то радует экспертов в области киберзащиты: заверения компании в надежности алгоритма сбора и хранения данных не избавили специалистов от опасений по поводу утечки информации в Сеть.

То, что в компании умеют хранить секреты, ее представителям еще предстоит доказать в суде. Иск к создателям ChatGPT в конце июня этого года предъявила анонимная группа лиц. По их мнению, пишет Bloomberg, в распоряжении фирмы каким-то образом оказались «огромные объёмы» личной информации пользователей, на распространение которой те не давали согласия.

Истцы оценили причиненный ущерб в 3 миллиарда долларов, число пострадавших при этом, якобы, составляет несколько миллионов. В качестве одного из ответчиков значится компания Microsoft, которая намерена инвестировать в OpenAI 13 миллиардов долларов.