Компания Google приняла решение удалить ряд потенциально опасных ИИ-отзывов о здоровье из результатов поиска после публикации материалов в британской газете *The Guardian*. В статье утверждалось, что ответы искусственного интеллекта (ИИ) могут приводить к серьёзному ущербу для здоровья пользователей, поскольку включают недостоверную медицинскую информацию. Однако удаление конкретных ответов далеко не гарантирует безопасность.
Как возникли проблемы?
Согласно проведённому расследованию, причиной беспокойства стали общие сведения, предоставляемые пользователями в верхней части страницы поиска, основанные на алгоритмах искусственного интеллекта. Эти обзоры, обозначенные как AI Overviews, включали рекомендации относительно значений анализа крови, необходимых для выявления заболеваний печени. Эксперты отметили, что такая информация способна ввести пациента в заблуждение, особенно тех, кто страдает тяжёлыми заболеваниями печени, и ошибочно считать своё состояние удовлетворительным.
Наибольшее возмущение вызвало отсутствие предупреждения о возможных ограничениях интерпретаций анализов. Пользователи, полагаясь исключительно на подобные ответы, рискуют пропустить важные симптомы или осложнения болезни. Например, нормы показателей лабораторных исследований зависят от множества факторов: возраста, пола, генетики и особенностей организма конкретного пациента. Без соответствующих пояснений рекомендации, выданные ИИ, становятся некорректными и небезопасными.
Что предприняла Google?
После публикаций журналисты обратились в компанию с просьбой объяснить причины предоставления такой информации. Первоначально представители Google заявляли, что использование искусственного интеллекта улучшает качество обслуживания пользователей. Тем не менее позже корпорация решила убрать некоторые автоматические отзывы, касающиеся ключевых запросов, связанных с состоянием здоровья печени и результатами тестов на неё. Компания подчеркнула необходимость проверки каждого случая отдельно и сообщила, что продолжает совершенствовать систему.
Тем не менее, подобная мера вызвала сомнения среди экспертов. Дело в том, что запрет распространяется лишь на определённые формулировки запросов. Если пользователь введёт аналогичные вопросы, слегка изменяя формулировку, Google продолжит выдавать вредные советы.
Например, запрос «нормы уровня ферментов печени» автоматически преобразуется в AI Overview с такими же проблемными рекомендациями. То есть реальная угроза сохраняется, несмотря на обещания компании повысить точность ответов.
Эксперты отмечают ещё одну важную деталь: никто не предупреждает пользователей о потенциальных недостатках информации, представленной в таком виде. Люди часто воспринимают онлайн-консультации как полноценную замену профессиональной консультации врача, что несёт риски для здоровья.
Возможные последствия
Пользовательские ожидания в отношении искусственного интеллекта растут ежедневно. Многие ожидают мгновенного и точного диагноза от технологии, однако реальность показывает обратное. Исследование показало, что нейросети нередко выдают противоречивые и неполноценные выводы, основываясь на источниках разной степени надёжности. Такие ситуации приводят к путанице и потенциальному ухудшению состояния пациентов.
Таким образом, пока технология остаётся несовершенной, полагаться на её рекомендации опасно. Лучше всего консультироваться непосредственно с врачом или специалистом перед принятием важных решений о своём здоровье. Пока искусственный интеллект развивается, лучше относиться к нему осторожно и осознанно.
