Кто следит за AI и генеративными моделями, наверно слышали что экс-сотрудник OpenAI из команды Superalignment опубликовал 165-страничный документ о его будущем. Так же есть подкаста на 4ч о том же самом и один из анализов. Но так как с английским у меня беда, а яндекс браузер не хочет переводить 4ч видео,я взяв на ворожения gpt-4 pro поизучал данный фай. Вот что получилось по главам и основным тезисам.
Возможность ОИИ к 2027 году
Анализируется прогресс от GPT-2 к GPT-4, который показывает улучшение возможностей от уровня дошкольника до уровня умного старшеклассника за 4 года.
Обсуждение тренда увеличения вычислительных мощностей и алгоритмической эффективности, которые могут привести к появлению ОИИ к 2027 году.
Тренды в вычислительных мощностях
Ежегодное увеличение вычислительных мощностей примерно на 0.5 порядков величины предвещает значительный прогресс в ближайшие годы.
Перспективы превращения чат-ботов в агентов.
Ожидается, что улучшение чат-ботов приведет к созданию агентов, способных заменить человека на многих позициях.
Глава 2: От ОИИ к суперинтеллекту
Взрыв интеллекта
ИИ не остановится на достигнутом уровне: сотни миллионов ОИИ могут начать автоматизировать исследования в области ИИ, что ускорит общий прогресс.
Масштабирование исследований
Может привести к значительному увеличению уровня интеллекта ИИ за короткий период.
Риски и возможности суперинтеллекта
Суперинтеллект откроет новые возможности, но связанные с этим риски будут значительными.
Глава 3: Вызовы
3a. Гонка к триллионному кластеру
Технокапитальное ускорение потребует строительства новых GPU, центров обработки данных и энергетической инфраструктуры.
3b. Закрепление лабораторий
Необходимо уделить больше внимания безопасности, чтобы предотвратить утечки секретов ОИИ.
3c. Сверхсоответствие
Технические проблемы в надежном управлении системами, значительно умнее нас.
3d. Свободный мир должен победить
Стратегическое преимущество в контроле над суперинтеллектом может определить экономическое и военное доминирование.
Глава 4: Проект
Вмешательство государства
Углубление гонки за ОИИ может привести к созданию государственных проектов по разработке ОИИ.
Глава 5: Заключительные мысли
Размышления о последствиях: если прогнозы автора о будущем ОИИ окажутся верны, то мир стоит на пороге кардинальных изменений.
Не отпускает мысль о необходимости инвестиции в свою плавучих АЭС, которые есть у компании Атом(Росатом). И это становится всё более актуальным, учитывая необходимость энергии для развития этого направления, которое требует всё больше.
Что думаете? Кто тоже читал его?
