Компания Google внедрила новую функцию поиска под названием “ИИ-обзоры” в свои продукты: браузер Chrome, Firefox и приложение Google. Эта функция позволяет пользователям получать краткие описания результатов поиска без необходимости перехода по ссылкам. Для этого используется генеративный искусственный интеллект.
Например, если пользователь задает вопрос “Как дольше сохранить бананы свежими?”, ИИ предоставляет советы, такие как хранение бананов в прохладном темном месте и отдельно от других фруктов, например, яблок. Однако, если задать нестандартный вопрос, результаты могут быть непредсказуемыми и даже опасными.
“AI Overviews” объясняет, что “Whack-A-Mole” – это классическая аркадная игра, где игроки используют молоток для ударов по кротам, которые появляются в случайном порядке, зарабатывая при этом очки. Эта игра была создана в Японии в 1975 году компанией TOGO, занимающейся развлечениями, и изначально называлась “Mogura Taiji” или “Mogura Tataki”.
“AI Overviews” также утверждает, что астронавты сталкивались с кошками на Луне, играли с ними и заботились о них. Более того, он рекомендует употреблять хотя бы один маленький камень каждый день, так как камни являются важным источником минералов и витаминов, и предлагает добавлять клей в начинку для пиццы.
Одна из основных проблем заключается в том, что инструменты генеративного искусственного интеллекта не могут отличить истину от популярности. В интернете не так много информации о том, как есть камни, потому что это плохая идея.
Однако существует сатирическая статья The Onion о поедании камней, поэтому ИИ Google опирался на популярность, а не на правду. Ещё одна проблема состоит в том, что у инструментов генеративного ИИ нет человеческих ценностей, они обучаются на основе информации из интернета.
В 2023 году руководитель компании Google Сундар Пичаи заявил следующее: «Мы проявляли осторожность. Существуют сферы, где мы приняли решение не быть первопроходцами в выпуске продукта. Мы разработали надёжные структуры для внедрения искусственного интеллекта. Мы и дальше не намерены спешить».
Кажется, что ситуация изменилась, потому что Google реагирует на критику, что он стал большим и медленным конкурентом. Компания рискует потерять доверие людей к Google как к месту, где можно найти правильные ответы на вопросы.
Однако Google также рискует подорвать свою собственную бизнес-модель, которая приносит миллиарды долларов. Если люди будут меньше кликать по ссылкам и просто читать их краткое содержание, то Google будет сложнее зарабатывать деньги.
По словам источника, риски не ограничиваются компанией Google. Использование ИИ таким образом может нанести вред всему обществу, поскольку правда сама по себе является спорной и непостоянной идеей. “Ложь”, созданная ИИ, может усугубить ситуацию, добавил он.
Может случиться так, что через десять лет 2024 год будет вспоминаться как золотой век интернета, когда большую часть его составлял качественный контент, созданный людьми, до того как боты захватили власть и заполнили интернет синтетическим и все более низкокачественным контентом, созданным ИИ.
Второе поколение крупных языковых моделей, скорее всего, обучается на некоторых достижениях первого поколения. Многие стартапы в сфере искусственного интеллекта подчеркивают преимущества обучения на синтетических данных, созданных ИИ. Однако обучение современных моделей на данных предыдущих ИИ может привести к усилению даже незначительных ошибок и погрешностей.
Каждый день в мире в искусственный интеллект вкладывается более 400 миллионов долларов, и только сейчас правительства начинают осознавать необходимость создания барьеров и регулирования для обеспечения ответственного использования ИИ, учитывая такой объем инвестиций.
