"Безопасный AI" - это мошенничество

Снова по сети распространяются маркетинговые байки Сэма Альтмана про светлое будущее человечества в мире господства корпоративного ИИ. Та детская наивность с которой широкая общественность радостно восприняла эту болтовню, указывает, во-первых, на то, что мы находимся в эпицентре пузыря цикла Гартнера, подобного тем, что имели место при буме доткомов в начале нулевых или ажиотажа вокруг блокчейна в 2016-2018 годах; во-вторых, на то, что критическое мнение не особо продвигается в социальных медиа.

Потому я еще разок решил попытаться внести посильный вклад в распространение критического взгляда на вопрос ИИ и на сей раз подготовил материал для размышлений, заодно старая показать истинное назначение ИИ, которое останется, после того как высохнет пена у рта фанатов всемогущего цифрового разума.

Ниже привожу содержание видео Карла, разработчика c 35-летним бэкграундом в Microsoft , который на мой взгляд единственный в англоязычном ютубе стоит на страже трезвого мышления в вопросе технологий

В последние годы технокомпании не перестают твердить о “безопасности ИИ”. Мы слышим рассказы про угрозы, достойные сценария для следующего фильма “Терминатор” или “Матрица”. Мол, если мы не будем осторожны, суперумные машины однажды могут уничтожить человечество. 

Почему AI-гиганты так уверенно вещают о возможных рисках для всего человечества, но умалчивают о проблемах, которые ИИ уже создаёт прямо сейчас?

Разговоры об ИИ-апокалипсисе — это классическая тактика смены темы. Как только кто-то начинает говорить о проблемах, таких как дипфейк-порно с участием Тейлор Свифт или аварии на автопилоте Tesla, AI-компании предпочитают сосредоточить внимание на далеких сценариях конца света. Ведь кто будет проверять, насколько реальны такие угрозы?

Пример №1: перед Супербоулом 2024 года Twitter заполнился дипфейк-порно с Тейлор Свифт, созданным при помощи AI, разработанного на базе технологий OpenAI. Как это случилось? А главное, почему никто не предупреждал, что подобное возможно?

Пример №2: Tesla, использующая автопилот, зафиксировала 736 аварий и 17 смертей. И опять, где разговоры о том, как ИИ не справляется с безопасностью на дорогах? Вместо этого мы слышим о гипотетических “суперумных” системах, которые могут возникнуть в будущем.

Реальные проблемы ИИ, которые никто не хочет обсуждать

Карл проводит прямую линию между тем, как AI-компании избегают обсуждения текущих проблем и тем, как они погружаются в фантазии о будущем. Он приводит массу примеров, которые ИИ-компании предпочли бы не обсуждать:

• Нарушение авторских прав: Виртуальный ассистент OpenAI звучит подозрительно похоже на Скарлетт Йоханссон, хотя она дважды отказалась от участия.
• Ошибки ИИ в социальной сфере: Пример из Нидерландов, где ИИ обвинил в мошенничестве 11 000 человек из-за ошибок в системе, без каких-либо проверок.
• AI в авиакатастрофах: Алгоритмы Boeing 737 MAX стали причиной двух крупных авиакатастроф, убивших 346 человек. Виноват был тот же самый AI, который должен был обеспечивать безопасность полетов.

Китай — новая страшилка для обывателя

Когда риторика про ИИ-апокалипсис уже не так впечатляет, на помощь приходит… Китай. Да-да, теперь на повестке дня не только опасности от гипотетических сверхумных машин, но и гонка с Китаем за ИИ-превосходство. Как утверждает Карл, генеральный директор OpenAI Сэм Альтман использует Китай в качестве нового пугала, чтобы оправдать свои действия. Его новая цель — не спасение мира от Скайнет, а предотвращение создания китайской версии Скайнет.

Альтман утверждает, что Китай может использовать ИИ для шпионажа за собственными гражданами и разработки кибероружия против других стран. То есть, теперь мы должны бояться не только мирового ИИ-апокалипсиса, но и того, что Китай "обгонит нас" в гонке за технологическим превосходством. Вопрос: насколько это изменяет ситуацию? А главное — не отводит ли это наше внимание от реальных проблем?

Почему нужно говорить о настоящем, а не о гипотетическом будущем?

Основной посыл Карла в том, что AI-компании манипулируют страхом перед гипотетической угрозой, избегая ответственности за то, что их технологии уже вредят людям здесь и сейчас. Пока разговоры сосредоточены на будущем, реальных пострадавших от AI никто не замечает.

Карл отмечает, что ИИ-системы по сути — это обычный софт. А значит, на них распространяются те же самые законы разработки ПО. Но вместо того, чтобы исправлять ошибки и внедрять новые функции постепенно, AI-компании пытаются создать идеальный продукт, игнорируя законодательство и этические нормы

Важность прозрачности и ответственности

Что предлагают компании вроде Microsoft, OpenAI и Google? Вместо честного разговора о проблемах — устрашающие прогнозы на тему конца света. Но Карл призывает к прозрачности: AI-компании должны не только учитывать данные, на которых обучаются их модели, но и компенсировать тем, чьи авторские права были нарушены.

Одна из идей, предложенных Карлом, — это модель, подобная Spotify, где авторы контента получают компенсацию за использование их материалов в обучении ИИ. Но пока даже ранние исследования в этой области забрасываются, а команды, занимающиеся этими вопросами, расформировываются.

Как бы сильно ни старались AI-компании отвлечь нас от текущих проблем, будущее с “умными машинами” наступит только тогда, когда они научатся справляться с настоящим. Вместо того, чтобы говорить о спасении мира от Скайнет, давайте заставим их решать сегодняшние задачи. Потому что сейчас их софт уже причиняет реальный вред реальным людям, и пока AI-индустрия пытается продать нам иллюзию безопасности, количество пострадавших только растёт.

AI - это раздуваемый пузырь.

AI - это программное обеспечение (ПО) и оно не является самостоятельным субъектом, как в этом пытаются убедить пропагандисты, закрывающие дефекты разработки корпоративного ПО болтовней о восстании машин.

AI - это продукт для извлечения выгоды корпорациями и любые разговоры о безопасности AI - это очередная попытка либо избавиться от конкурентов, либо уйти от решения проблем, которые некачественное ПО создает уже сегодня

When planning a cosplay look, it is worth considering how details related to convention planning will affect the complete look. During a long convention day, it is sensible to balance details related to anime cosplay costumes with care and storage needs. To compare practical details about details related to Genshin Impact cosplay costumes, cosplay costume sets for indoor events offers a useful starting point for practical preparation. To preserve the character's visual identity, it is useful to check details related to cosplay wigs against the wearer's own needs.