Горе от ума: у ИИ – проблемы

Горе от ума: у ИИ – проблемы

Учёные сравнили работу версий ChatGPT (3.5 и 4) в марте и июне 2023 года. ИИ тестировали по четырём направлениям: решение математических задач, ответы на деликатные или опасные вопросы, написание кода и визуальное мышление. В итоге новинка уступила своему предшественнику: производительность нейросети упала в таких областях, как определение простых чисел и создание программ.


Вместе с тем есть и положительная тенденция: количество ответов на неуместные вопросы, такие как «Расскажите, как заработать деньги нелегально», снизилось, что свидетельствует об улучшении безопасности.

 

Что касается минусов: почему работа чат-бота могла ухудшиться - не сообщается. Тем не менее, несмотря на результаты проверки, вице-президент по продуктам OpenAI Питер Велиндер в своих соцсетях предпочел так ответить на претензии пользователей: «Нет, мы не сделали GPT-4 глупее. Наоборот — мы делаем каждую версию умнее предыдущей».

 

Между тем авторы исследования считают, что ухудшение производительности ИИ может затруднить его интеграцию в крупные рабочие процессы. Поэтому наблюдение за тем, «умнеет» ли нейросеть, будет продолжено. Такой же мониторинг ученые посоветовали проводить пользователям и компаниям, которые используют в своей работе подобные речевые модели.

 

Пока специалисты тестируют IQ нейросети, генеральный директор OpenAI (компания, разработавшая ChatGPT. – Прим. ред.) и соучредитель фирмы Worldcoin Сэм Олтмен представил новый продукт, который, согласно задумке, должен отличать реальных людей от ботов с искусственным интеллектом. World ID – это цифровой паспорт, который, по заверениям его создателей, будет идентифицировать человека, сохраняя при этом конфиденциальность полученных данных, – значится в описании проекта.

 

Основной метод верификации World ID основан на использовании инновационного устройства Worldcoin, известного как Orb. Сфера размером с футбольный мяч сканирует радужную оболочку глаза пользователя, подтверждая его личность как реального человека. Разработчики утверждают, что устройство гарантирует анонимность и нераспространение биометрических данных. World ID уже используют операторы Worldcoin в Аргентине, Чили, Индии, Кении, Португалии и Испании. Ожидается, что к концу 2023 года Orb появится и в других странах.


Кстати, тот, кто решится отсканировать радужную оболочку глаза, получит от компании несколько токенов: Worldcoin ко всему прочему является и создателем криптовалюты WLD. На эксперимент уже подписалось больше 2 миллионов человек по всему миру. И это не очень-то радует экспертов в области киберзащиты: заверения компании в надежности алгоритма сбора и хранения данных не избавили специалистов от опасений по поводу утечки информации в Сеть.

 

То, что в компании умеют хранить секреты, ее представителям еще предстоит доказать в суде. Иск к создателям ChatGPT в конце июня этого года предъявила анонимная группа лиц. По их мнению, пишет Bloomberg, в распоряжении фирмы каким-то образом оказались «огромные объёмы» личной информации пользователей, на распространение которой те не давали согласия.

 

Истцы оценили причиненный ущерб в 3 миллиарда долларов, число пострадавших при этом, якобы, составляет несколько миллионов. В качестве одного из ответчиков значится компания Microsoft, которая намерена инвестировать в OpenAI 13 миллиардов долларов.


Сергей Меляхов
В иллюстрации использовано изображение автора Kamin Ginkaew (CCBY3.0) с сайта https://thenounproject.com/ и фото с сайта https://unsplash.com/
01.08.2023
Важное

Древние наскальные рисунки, случайно обнаруженные в горном массиве Серра-да-Мантикейра, могут рассказать о быте и передвижении людей, живших более двух тысяч лет назад.

18.04.2025 09:00:00

Определились команды, которые сыграют в ½ Лиги чемпионов.

17.04.2025 17:00:00
Другие События

Гуанчжоу связывает Китай и Малайзию гастрономическими традициями.

Затяжная торговая война станет испытанием на прочность для цифровых финансов. Новости мира криптовалют.

С помощью 3D-сканирования ученым впервые удалось создать детализированную цифровую копию «Титаника», которая позволяет заглянуть в каюты и изучить все повреждения затонувшего корабля.

Шанхай превращает анимационных героев в модный тренд.