На первый взгляд, недавняя серия научных статей, опубликованных ведущей лабораторией искусственного интеллекта в Университете Британской Колумбии в Ванкувере, может не показаться столь значимой. В них описаны постепенные улучшения существующих алгоритмов и идей, которые напоминают материалы среднего уровня для конференций или журналов по ИИ.
Однако эти исследования действительно примечательны. Дело в том, что все они выполнены AI Scientist, разработанным в лаборатории Университета Британской Колумбии в сотрудничестве с исследователями из Оксфордского университета и стартапа Sakana AI.
Этот проект демонстрирует ранний шаг на пути к революционному подходу: позволить ИИ учиться, придумывая и исследуя новые идеи. В данный момент эти идеи пока не очень новы. Несколько статей описывают улучшения техники генерации изображений, известной как диффузионное моделирование; другая статья предлагает способ ускорения обучения в глубоких нейронных сетях.
«Эти идеи не являются прорывными. Они не поражают креативностью», признаёт Джефф Клун, профессор, возглавляющий лабораторию Университета Британской Колумбии. «Но это довольно интересные идеи, которые кто-то мог бы попробовать».
Несмотря на то, что современные программы ИИ впечатляют, их возможности ограничены необходимостью потреблять данные, созданные человеком. Если программы ИИ смогут обучаться самостоятельно, экспериментируя и исследуя «интересные» идеи, они могут открыть способности, которые выходят за рамки всего, чему их обучили люди.
Лаборатория Клуна уже разрабатывала программы ИИ, созданные для такого обучения. Например, одна из программ, называемая Omni, пыталась сгенерировать поведение виртуальных персонажей в нескольких средах, напоминающих видеоигры, фиксируя те, которые казались интересными, и затем итеративно улучшая их с новыми дизайнами. Ранее этим программам требовались вручную прописанные инструкции для определения интересности. Однако большие языковые модели (LLM) предоставляют способ, позволяющий этим программам самостоятельно определять, что наиболее интригует. Ещё один недавний проект из лаборатории Клуна использовал этот подход, позволяя программам ИИ придумывать код, который позволяет виртуальным персонажам делать самые разные вещи в мире, напоминающем Roblox.
AI Scientist — это пример того, как лаборатория Клуна развивает такие возможности. Программа придумывает эксперименты в области машинного обучения, выбирает самые перспективные с помощью LLM, затем пишет и запускает необходимый код — и повторяет этот процесс снова и снова. Несмотря на скромные результаты, Клун утверждает, что программы с открытым обучением, как и сами языковые модели, могут стать значительно более мощными с увеличением вычислительных мощностей, которые их питают.
«Это похоже на исследование нового континента или новой планеты», — говорит Клун о возможностях, открытых LLM. «Мы не знаем, что обнаружим, но куда бы мы ни повернулись, повсюду есть что-то новое».
Том Хоуп, доцент Еврейского университета в Иерусалиме и научный сотрудник Института искусственного интеллекта Аллена (AI2), говорит, что AI Scientist, как и LLM, выглядит сильно производным и пока не может считаться надёжным. «Ни одному из компонентов нельзя доверять прямо сейчас», — говорит он.
Хоуп отмечает, что попытки автоматизировать элементы научных открытий берут своё начало ещё в 1970-х годах с работы пионеров ИИ Аллена Ньюэлла и Герберта Саймона, а затем и работы Пэта Лэнгли в Институте изучения обучения и экспертизы. Он также упоминает, что несколько других исследовательских групп, включая команду в AI2, недавно использовали LLM для помощи в создании гипотез, написании статей и рецензировании исследований. «Они уловили дух времени», — говорит Хоуп о команде Университета Британской Колумбии. «Направление, конечно, крайне ценное, потенциально».
Тем не менее остаётся неясным, смогут ли системы на основе LLM когда-либо предложить по-настоящему новаторские или прорывные идеи. «Это вопрос на триллион долларов», — говорит Клун.
Даже без научных прорывов, открытое обучение может быть важным для разработки более способных и полезных систем ИИ уже в настоящем времени. В отчёте, опубликованном в этом месяце венчурной компанией Air Street Capital, подчеркивается потенциал работы Клуна в разработке более мощных и надёжных ИИ-агентов, или программ, которые автономно выполняют полезные задачи на компьютерах. Похоже, что все крупные компании, занимающиеся ИИ, рассматривают агентов как следующий большой шаг.
На этой неделе лаборатория Клуна представила свой последний проект по открытому обучению: программу ИИ, которая придумывает и строит ИИ-агентов. Эти агенты, разработанные ИИ, превосходят агентов, созданных людьми, в некоторых задачах, таких как математика и понимание текста. Следующим шагом будет разработка способов предотвращения создания агентами систем, которые могут вести себя неправильно. «Это потенциально опасно», — говорит Клун о своей работе. «Мы должны сделать это правильно, но я думаю, что это возможно».
Боюсь ИИ заберут всю работу себя и в будущем мы будем обслуживать ИХ