Цитата
Революцией такого же масштаба в понимании разума может стать «Задорская революция», манифест которой опубликовал профессор Энтони М. Задор.
Вот его суть.
1) Хватит морочить себе голову, и пора признать следующее.
Современные исследования в области ИИ вообще не ведут к созданию разума, а лишь имитируют его отдельные возможности (бумажный голубь тоже парит, но он — вовсе не птица, не модель птицы и даже не этап к построению модели птицы).
Во многих отношениях ИИ далек от возможностей интеллекта детенышей собаки, мыши или даже паука, и не похоже, что простое расширение существующих подходов позволит хоть когда-то достичь этих целей (многие животные эффективно функционируют после 10⁶ и даже меньшего количество секунд жизни: белка может прыгать с дерева на дерево через несколько недель от рождения, жеребенок может ходить через несколько часов, а пауки рождаются готовыми к охоте).
Никакими из существующих методов машинного обучения эту проблему не решить в принципе (земные живые существа не имеют такого времени и объемов данных, что требуются даже при самых продвинутых и эффективных методах машинного обучения).
Разрыв между мышью и человеческим интеллектом намного меньше, чем между нынешним ИИ и мышью. Это значит, что даже если наша конечная цель — догнать (не то что перегнать) человеческий интеллект, разумной ближайшей целью для ИИ было бы достичь интеллекта мыши.
2) Результаты исследований тысяч всевозможных типов разума живых существ однозначно показывают.
БОльшая часть сенсорных представлений и поведения живых существ врожденная. Например, многие обонятельные стимулы являются врожденно привлекательными и аппетитными (кровь для акул) или отвратительными (моча лисы для крысы). Ответы на зрительные стимулы также во многом врожденные. Например, мыши убегают от любой движущейся тени, что позволяет быстро обнаруживать и избегать воздушных хищников.
Роль врожденных механизмов выходит далеко за рамки простого установления реакций на сенсорные представления. Значительная часть поведенческого репертуара животных и людей является не результатом умных алгоритмов обучения — контролируемых, неконтролируемых, с подкреплением — а скорее программами поведения, уже присутствующими при рождении.
Выживание животного требует решения «проблемы К2БС» — кормление, борьба, бегство и спаривание. Решения многократного и, возможно, только с небольшими изменениями. Также и человек рождается и имеет очень ограниченное время — от нескольких дней до нескольких лет — чтобы выяснить, как решать К2БС проблему. Если ему это удается, он передает часть своего решения (т.е. половину своего генома) следующему поколению.
3) Если только не допустить вмешательство Бога, у нас нет иного объяснения передачи паттернов поведенческих умений между поколениями, чем геном.
Если большая часть поведения животного является врожденной, то жизненный опыт животного представляет лишь небольшую часть данных, которые способствуют его приспособленности. Другой потенциально гораздо больший пул данных способствует его врожденному поведению и представлениям. Эти врожденные формы поведения и представлений возникают в результате эволюции путем естественного отбора. Они кодируются в геноме и принимают форму правил прошивки мозга, определяющих структуру и интенсивность связей нейронов.
Таким образом, эволюция, как и обучение, также может рассматриваться как механизм извлечения статистических паттернов, хотя и в гораздо более длительном масштабе времени, чем обучение. Эволюция может рассматриваться как своего рода алгоритм обучения с подкреплением, действующий на временной шкале поколений, где сигнал подкрепления состоит из количества потомства, которое генерирует индивид.
Для ИИ нужны иные (новые) классы алгоритмов. Принципиальный изъян сегодняшних алгоритмов обучения ИИ в том, что эти алгоритмы НЕ являются аналогом обучения животных. Поскольку большинство данных, влияющих на приспособленность животного, кодируются эволюцией в геном, новые алгоритмы должны имитировать это свойство эволюции. Иными словами, нужно идти от Supervised Learning к Supervised Evolution, а потом и к «эволюции с подкреплением» — Reinforcement Evolution.
4) Мы думали, что понимаем код генома … Но мы ошиблись — все существенно сложнее
Врожденные механизмы кодируются в геноме. В частности, геном кодирует чертежи для подключения нервной системы — чертежи и спецификации прошивки топологии и силы связей нейронов. Эти чертежи были отобраны эволюцией в течение сотен миллионов лет, работая с бесчисленными квадриллионами живых существ. Схемы, указанные в этих чертежах, обеспечивают основу для врожденного поведения, а также для любого обучения, которое происходит в течение жизни животного.
Геном не обладает достаточной информационной емкостью, чтобы явно указывать каждое соединение (даже если бы каждый нуклеотид человеческого генома был бы направлен на эффективное определение связей в мозге, информационная емкость все равно была бы по меньшей мере на шесть порядков меньше необходимой). Вместо этого в геноме прописывается набор правил прошивки мозга во время его «изготовления» и функционирования. Даже короткий набор правил может легко определить проводку очень большого числа нейронов. Кроме того, в основе прошивки лежит использование множества копий базовой «канонической микросхемы», используемой не только для прошивки сенсомоторных и прочих чувственных элементов разума, но и для прошивки врожденных схем усвоения языка — привет Ноаму Хомскому, механизма рассуждений и здравого смысла(подробней см. в «манифесте Задорской революции»).
Итого получается, что геном не кодирует представления или поведение напрямую, а кодирует правила и шаблоны прошивки, которые затем должны создавать экземпляры поведения и представлений. Как кодирует — мы пока не знаем. Но именно эти правила прошивки («Код разума») и являются целью всей эволюции. Чтобы расшифровать «Код разума», нужен, как минимум, инструментарий для точного считывания прошивки на уровне каждого нейрона. И мы к такому инструментарию приближаемся.
Резюме.
Идя таким путем, мы, наконец, поймем ошибочность метафоры ИИ, использовавшейся нами десятки лет — метафоры полета птицы в основе построения самолета.
Тот универсальный ИИ общего назначения, что мы пытаемся строить в рамках вышеназванной метафоры — вовсе не будет универсальным. Да, он будет летать. Но при этом он останется настолько ограниченным, что никогда не сможет соответствовать человеческим возможностям.
Ведь и самолет по некоторым показателям значительно превосходит птицу: он может летать намного быстрее, на большей высоте, на большие расстояния, с гораздо большей грузоподъемностью. Но самолет не может нырнуть в воду, чтобы поймать рыбу, или бесшумно сбежать с дерева, чтобы поймать мышь.
Точно так же современные компьютеры по некоторым показателям уже значительно превзошли вычислительные способности человека (например, в шахматах или Го), но не могут сравниться с людьми по универсальности интеллекта.
Если мы хотим спроектировать систему, которая может делать то, что делаем мы, нам нужно построить ее в соответствии с теми же принципами проектирования.
Вместо заключения.
PRO
Автор «манифеста Задорской революции» Anthony M. Zador — известный американский нейробиолог, профессор биологии и зав. кафедрой нейронаук в Cold Spring Harbor Laboratory, соучредитель конференции по вычислительной и системной неврологии, обладатель звания Foreign Policy Global Thinker за 2015 и победитель премии Gill Transformative Investigator Award за 2018.
Т.е. это очень серьезный дядя. И отнестись к его «манифесту» следует весьма серьезно.
Ну, если вы просите отнестись серьезно к данному "Манифесту", то автор его явный сторонник "единства мира", которых я надух не переношу. "Единство мира" я считаю ложным мировоззрением на мироздание. А его адептов - преступниками против разума.
Я сторонник параллельности миров и ее адепт!. И если мозг из мира сего, то интеллект из другого мира - параллельного. Например, из зазеркалья Кэрролла. Там и надо строить лаборатории по изучению интеллекта, хоть искусственного, хоть естественного...
см. картинку в заголовке.