July 3rd, 2020

Дело AI живет и побеждает, или не читайте перед обедом айтишных газет

“New AI outperforms humans by a factor of a BILLION!”

Cингулярность, о которой так долго говорили айтишники, уже давным-давно наступила! Вот машина, вычисляющая тригонометрические функции на порядки быстрее человека:



А может, она наступила ещё раньше?

Collapse )

Можно ли на основе вычислительной машины синтезировать разум?



— Здрасьте, я ваша тетя!
Переводчик: она с вами здоровается и говорит, что она ваша родственница.

Эрик Ларсон — специалист по искусственному интеллекту, основатель компании, занимающейся классификаторами блогов и др. web-источников на основе разработанных им методов. Получил 1.7 миллионный грант от DARPA для исследований. Является редактором секции «Наука и технология» ресурса The Best Schools.org. Пишет монографию с целью показать чрезмерность ожиданий человечества относительно того, что на самом деле могут предложить технологии искусственного интеллекта. Верующий, если что.



Источник.

Collapse )

"Китайская комната": аргумент против гипотезы сильного искусственного интеллекта

Сильный ИИ -- гипотеза, согласно которой машина приобретет способность мыслить ТАК ЖЕ, как и человек.


философ John Searle (род. 1932)

Противник гипотезы философ Дж. Сёрл предложил мысленный эксперимент, вошедший в историю под названием "Китайской комнаты". Предположим, есть компьютер, который может отвечать на вопросы человека на китайском языке так хорошо, что проходит тьюринг-тест. Компьютер это делает, получая последовательность символов китайского алфавита на вход и выдавая некую последовательность символов на выход, причем, как мы сказали, это делается столь хорошо, что китаец уверен, что говорит не с машиной, а с человеком. Теперь приходит другой человек, не говорящий по-китайски, и повторяет шаг за шагом все инструкции программы, исполняемой компьютером. Ключевой момент состоит в том, что для того, чтобы повторить все инструкции, исполняемые компьютером, второму человеку можно не знать ни слова по-китайски. Следовательно, заключает Дж. Сёрл, компьютер не мыслит так же, как человек, но лишь механически выполняет инструкции.

Различие между действиями человека и машины, по мысли философа, состоит в том, что человеку присуща интенциональность (понимание контекста), а машине нет. Алгоритм и прагматика вообще никак не пересекаются. Смыслом свои артефакты наделяет разум человека. Алгоритму совершенно всё равно, зачем его запускают и кто это делает.

Некоторые предшественники Дж. Сёрла:
Вот ещё две ссылки по теме:

Готтфрид Лейбниц о проблеме мозг-разум

Меня недавно спросили, почему сознание неалгоритмизуемо. Часть ответа вынесу в отдельную запись.

В научном сообществе сегодня преобладают взгляды Эпикура. Однако это не всегда было так. Были крупные учёные противники материализма. И, о чудо, это им не мешало делать науку. И дураками их назвать тоже, надеюсь, язык не повернётся.

Мне попадалась цитата Лейбница о немеханистичности сознания и внутренних переживаний (несводимости сознания к природным закономерностям).


Gottfried Wilhelm Leibniz (1646-1716)

One is obliged to admit that perception and what depends upon it is inexplicable on mechanical principles, that is, by figures and motions. In imagining that there is a machine whose construction would enable it to think, to sense, and to have perception, one could conceive it enlarged while retaining the same proportions, so that one could enter into it, just like into a windmill. Supposing this, one should, when visiting within it, find only parts pushing one another, and never anything by which to explain a perception. Thus it is in the simple substance, and not in the composite or in the machine, that one must look for perception.

Monadology (1714)

И еще интересные цитаты из Лейбница:

Furthermore, by means of the soul or form, there is a true unity which corresponds to what is called the I in us; such a thing could not occur in artificial machines, nor in the simple mass of matter, however organized it may be.

New System of Nature (1695)

But in addition to the general principles which establish the monads of which compound things are merely the results, internal experience refutes the Epicurean [i.e. materialist] doctrine. This experience is the consciousness which is in us of this I which apperceives things which occur in the body. This perception cannot be explained by figures and movements.

Reply to Bayle (1702)

Вот здесь приведен контекст:

https://plato.stanford.edu/entries/leibniz-mind/

О статье с матмоделью дарвиновской эволюции

Наша братья, народ умный, как мы называем себя, поступает почти так же, и доказательством служат наши ученые рассуждения. Сперва ученый подъезжает в них необыкновенным подлецом, начинает робко, умеренно, начинает самым смиренным запросом: не оттуда ли? не из того ли угла получила имя такая-то страна? или: не принадлежит ли этот документ к другому, позднейшему времени? или: не нужно ли под этим народом разуметь вот какой народ? Цитует немедленно тех и других древних писателей и чуть только видит какой- нибудь намек или, просто, показалось ему намеком, уж он получает рысь и бодрится, разговаривает с древними писателями запросто, задает им запросы и сам даже отвечает на них, позабывая вовсе о том, что начал робким предположением; ему уже кажется, что он это видит, что это ясно -- и рассуждение заключено словами: так это вот как было, так вот какой народ нужно разуметь, так вот с какой точки нужно смотреть на предмет! Потом во всеуслышанье с кафедры, -- и новооткрытая истина пошла гулять по свету, набирая себе последователей и поклонников.

Николай Васильевич Гоголь. Мертвые души

Немного предыстории. Во время оно я оставил комментарий в блоге профессора математики и ярого критика ID Джеффри Шаллита (Jeffrey Shallit).


Professor Jeffrey Shallit, Waterloo

Он мне указал (на мой взгляд, достаточно резко) на эту статью, типа "сначала прочти вот это, потом приходи и мы поговорим". Возвращаю должок, ибо лучше поздно, чем никогда. Надо будет перевести этот мой опус и запостить для него [что уже сделано см. здесь].

Proceedings of the Third Workshop on Artificial Life (ALIFE-3)

John R. Koza: Spontaneous Emergence of Self-Replicating and Evolutionarily Self-Improving Computer Programs


Professor John R. Koza, Stanford

В статье представлена математическая модель, дающая, по мнению автора, основание для положительного ответа как относительно возможности спонтанной генерации самовоспроизводящихся программ (репликаторов), так и относительно возможности их последующего эволюционного улучшения.

Collapse )
Вот такие пироги. Так что, Jeffrey, Design is written all over it...

1. Winston Ewert, William Dembski, Robert J. Marks II (2012): Climbing the Steiner Tree—Sources of Active Information in a Genetic Algorithm for Solving the Euclidean Steiner Tree Problem, Bio-complexity.org.

Cм. также мою заметку о семантическом замыкании здесь.

Банкротство игрока - банкротство Дарвина

Дарвиновская эволюционная модель в среднем не работает.

Вот очень интересная статья о фундаментальных статистических проблемах дарвиновской эволюционной модели: Gambler's Ruin is Darwin's Ruin (автор scordova).

Группе студентов MIT в начале 1960-х гг. удалось разработать настолько успешную стратегию игры в казино, что это позволило одному из них по имени Эдвард Торп серьезно разбогатеть. Прошу не рассматривать это как рекламу казино, азартных игр или игрового бизнеса, это просто иллюстрация того, что методы работают, а значит, и выводы из всего этого хозяйства тоже.
Вот он, этот коварный тип гражданской наружности по имени Ed Thorp, из-за которого, говорят, крупье Лас Вегаса были вынуждены ненадолго закрыть казино... Кстати, он жульничал вместе с Клодом Шенноном. События 50-летней давности послужили основой для американского кинофильма "Двадцать одно".


Умные мужики, что тут скажешь...

Основа их рассуждений содержится в так называемой задаче о банкротстве игрока (gambler's ruin), математическая постановка которой находится здесь и здесь. При достаточно больших ресурсах казино и при условии, что:

  • игрок повышает ставку с каждым выигрышем на величину:

    Текущая сумма в кармане у игрока / N,

    где N — фиксированное целое число;

  • оставляет ставку на прежнем уровне при проигрыше;



игрок в конце концов проиграет N ставок подряд, каково бы ни было N.

Отсюда видна необходимость управления рисками. Умело рискующий игрок побеждает за счёт большого числа маленьких ставок и управления их величиной (например, понижает ставку с каждым проигрышем и увеличивает с выигрышем). Играть следует только в те игры, исход которых зависит от предыстории и где есть доступ к информации о предыстории игры. Например, если известно, какие карты были сданы, известно и то, какие карты ещё остаются в колоде, что даёт возможность управлять размером ставки в зависимости от этого. Студенты MIT действовали скоординированно в тайне от крупье, следя за тем, что происходит за каждым столом и давая знать своим, где именно и сколько следует ставить.

Говорят, что Шеннон с Торпом даже сделали небольшой компьютер, и пронесли его с собой в кармане в казино. Они использовали карманную ЭВМ для просчёта выигрышных вариантов.

Collapse )

Ну, хорошо, а каким боком это касается бедного Дарвина? Непосредственно, причём настолько, что от его теории практически ничего не остаётся. Наложение массива случайностей на результаты естественного отбора — смертельный удар по дарвиновской теории. Cлучайный отбор в среднем подавляет естественный отбор. Для того, чтобы дарвиновская эволюция в среднем работала, она должна была бы уметь бороться с потерей полезных мутаций как вследствие дрейфа и других случайных факторов (назовём это проблемой Кимуры), так и вследствие множественности признаков, по которым ведётся отбор (эффект Хилла-Робертсона, который, насколько я могу судить, связан с проблемой Холдейна).

Collapse )

Интересная статья. Автор не без злой иронии отмечает, что у Дарвина было плохо с математикой в школе. "За компанию" ругать нехорошо, но для себя я вопрос с дарвинизмом с научной точки зрения закрыл.

Банкротство игрока — это банкротство Дарвина. Это фиаско ставит жирную точку в увлекательной, но столь же поучительной истории с теорией Дарвина.

***

Для тех, кто продрался сквозь всю эту "музыку", в заключение приведу несколько важных комментариев под статьёй, проясняющих суть дела.

Особенно прошу обратить внимание на критическую заметку американского популяционного генетика Joe Felsenstein против обсуждаемой мной статьи (то есть в защиту дарвиновской модели) на известном сайте сторонников теории эволюции Panda's Thumb здесь. В основном, он, как и полагается убеждённому дарвинисту, подчёркивает, что успех отбора объясняется тем, что, как и в игре, распределение вероятностей динамически изменяется и что рекомбинация, доставляемая половым размножением, сильно ускоряет процесс фиксации. Это верно, и всё же Джо Фельзенштейн в своей критической заметке выдаёт желаемое за действительное (см. комментарий 1 ниже).

При его допущениях вероятность фиксации полезной мутации в 2% действительно больше вероятности фиксации нейтральной мутации в 40 тыс. раз, а вероятность фиксации вредной мутации есть практический нуль. Да, но проблема в этих самых 2%, которые означают, что даже при тех допущениях, которые навскидку принял американский специалист по генетике, вероятность потери этой самой полезной мутации составит 98%.

Collapse )

Collapse )

Collapse )

Collapse )

ЗЫ. Кто будет мне писать комментарии про успехи population genetics, которые якобы на гениальной дарвиновской теории зиждутся, забаню за троллинг :)</div>

Математические проблемы теории Дарвина



Американские посиделки: трое ученых об эволюции. Один из них, проф. Гелернтер (Йель, информатика), признался, что перестал быть дарвинистом по прочтении книги Cтивена Майера "Darwin's Doubt". Майер -- ещё один участник беседы. Третий -- Д. Берлински, математик, давний противник Дарвина. И, конечно, ведущий.

Ниже я стараюсь дать фору натуралистам, хотя, разумеется, у них нет вообще никаких конкретных аргументов, только гадания на кофейной гуще общие рассуждения.

Collapse )

***
Нужно было им пригласить эволюционного биолога, конечно. Кого-нибудь типа Кунина. Было бы интересно посмотреть. Но почему бы и биологам, в конце концов, не прислушаться к математикам, ведь даже книги на биологические темы писались иногда специалистами в других областях, например, геологами и даже бывшими таксидермистами...