mns2012 (mns2012) wrote in biosemiotics,
mns2012
mns2012
biosemiotics

Category:

Разовьётся ли AI в сильный AI?



Вот здесь приводятся аргументы в пользу позиции скептиков сильного AI.

Эта статья является ответом вот на эту: Artificial intelligence is evolving all by itself, где утверждается, что AI способен развиваться по программе без коррекции со стороны человека. Как это делается:

The program discovers algorithms using a loose approximation of evolution. It starts by creating a population of 100 candidate algorithms by randomly combining mathematical operations. It then tests them on a simple task, such as an image recognition problem where it has to decide whether a picture shows a cat or a truck.

Аргументы скептиков:

1/ Теоремы No Free Lunch: не существует выигрышного алгоритма поиска решений на всём множестве задач.

2/ Методы решения простых задач плохо или совсем немасштабируемы на решение сложных задач. Иллюстрация - игра word ladder. Игра состоит в том, что модификацией одной буквы в заданном слове нужно дойти до другого слова, которое является целью. Эта лингвистическая игра работает только на достаточно коротких словах (в случае английского языка это достаточно короткие слова). Однобуквенных трансформаций между словами более определенной длины в любом реальном языке просто не существует. Длина будет различна для разных языков, но принципиально проблема присутствует в любом естественном языке человеческого общения.

3/ Закон Гудхарта: когда метрика становится целью, она перестаёт быть хорошей метрикой. Если мы измеряем поведение системы с помощью определённой метрики, то, фокусируясь исключительно на ней, мы перестаём следить за поведением системы в целом и наша метрика уже не отражает поведения изучаемой нами системы в реальных условиях. В приложении к AI ситуация выглядит так: мы вынуждены оптимизировать поведение системы, фиксируя функцию оптимизации; с другой стороны, процедура оптимизации по пространству функций оптимизации не может выявить никакого нового знания. Подход, при котором получение такого нового знания рассматривается в качестве функции оптимизации, имеет теоретические ограничения (колмогоровская сложность и проблема остановки).

4/ К тому же, в статье Robert Marks, Eric Holloway "Observation of Unbounded Novelty in Evolutionary Algorithms is Unknowable” доказывается, что неограниченной генерации новизны невозможно достичь алгоритмическим путём. Наблюдается вырождение процесса создания новизны эволюционными алгоритмами: новизна возрастает, после чего достигается плато.
Tags: artificial intelligence, artificial life
Subscribe

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic
  • 12 comments