Не ждём, а готовимся, часть 1

Для начала надо провести важное разграничение между общим искусственным интеллектом (AGI) и искусственным суперинтеллектом (ASI).

В первом случае речь идёт об интеллекте примерно равном человеческому, то есть таком, которому вы можете дать посильную обученному в соответствующей области человеку задачу и ждать что он её корректно выполнит.

Во втором же речь уже об интеллекте значительно превышающем человеческий по способностям.

Большинство футурологических прогнозов строятся на предположении, что стадия AGI окажется лишь промежуточной и вскоре после её достижения должен произойти переход к ASI.

Однако если мы говорим о больших языковых моделях (LLM), к которым относится текущая генерация передовых ИИ, правомерность такого предположения можно поставить под сомнение. Поскольку сами LLM обучаются на контенте сгенерированном человеком, можно очень легко представить себе ситуацию в которой на какой-то итерации они оказываются способны выполнять почти все посильные человеку задачи, но при этом никак не могут выйти за пределы человеческих возможностей т. к. просто не обладают необходимым материалом для обучения.

Таким образом вполне можно допустить оба сценария развития событий: в одном из них AGI является конечной точкой эволюции ИИ, в другом — лишь промежуточной остановкой на пути к ASI.

Надо сразу оговориться что второй сценарий в рамках данного цикла рассматриваться не будет. Это сценарий технологической сингулярности, который почти не поддаётся добросовестному прогнозированию, в том числе потому что мы не можем предсказать какие фундаментальные законы вселенной неизвестные на сегодня человеку может открыть ASI. Мир наступившей сингулярности можно лишь попытаться обрисовать очень широкими мазками и с заведомо большим количеством неочевидных допущений — одной из таких попыток стал завершённый на днях роман Полития.

Здесь мы сфокусируемся на первом сценарии — то есть на том в котором будет создан AGI, но не ASI.