Сооснователь и экс-главный научный сотрудник OpenAI Илья Суцкевер считает, что в ближайшем будущем создатели крупных языковых моделей пересмотрят свои подходы к разработке. Главная трудность заключается в дефиците свежих данных.
На данный момент крупные языковые модели обучаются на основе информации, полученной из интернета и от партнеров. По мнению Суцкевера, ситуация напоминает использование исчерпаемых ресурсов, таких как нефть, запасы которой практически иссякли.
«Больше данных не появится – мы достигли предела. Теперь придется работать с тем, что у нас уже есть: ведь интернет существует в единственном экземпляре», – утверждает Илья Суцкевер.
Суцкевер предполагает, что на ближайшее время развитие искусственного интеллекта может сместиться в сторону создания агентных моделей, функционирующих непосредственно на устройствах пользователей и решающих разнообразные задачи, связанные с локальными программами.
Anthropic уже выпустила первую версию подобного агента, а OpenAI, вероятно, также занимается разработкой подобной системы. Предполагается, что продукт компании выйдет в начале 2025 года.
Сам Суцкевер, покинувший OpenAI в 2024 году, теперь руководит собственной компанией Safe Superintelligence Inc., где планирует сосредоточиться на создании безопасного и высокоэффективного искусственного интеллекта сверхчеловеческого уровня.