ИИ и вы. Часть 4: Конец человечества?

Aug 02, 2023

2 августа 2023 г. Специально для газеты Herald TimesКолонки, Округ, Мнение0

Часть 1: Гостевая рубрика: Искусственный интеллект и вы, Часть 1

Часть 2. Как работают AI и ChatGPT, Часть 2

Часть 3. Искусственный интеллект и вы. Часть 3. Как разумно использовать ChatGPT

РБК | В этой серии статей я попытался разоблачить влияние искусственного интеллекта на нашу жизнь. Я описал новые возможности ChatGPT и немного о его внутренней работе — нейронных сетях. Я перечислил возможные варианты использования и неправильного использования. Все это время я возвращался к его удивительному, неожиданному поведению. На этом я закончу. ChatGPT и его родственники, возможно, представляют собой новый интеллект, конкурирующий с нашими человеческими способностями и потенциально выходящий за их пределы. Расширенные версии ChatGPT могут представлять вполне реальную угрозу существованию человечества. Это не научная фантастика. Вдумчивые люди из числа серьезных инженеров, разработавших эти системы, обеспокоены. Как минимум нам необходимо выявить потенциальные угрозы и выяснить, как с ними бороться.

Британский математик Алан Тьюринг в 1936 году изобрел схему общего вычислительного устройства, которое сейчас называется машиной Тьюринга и которое является основой для современных цифровых компьютеров. До Тьюринга компьютеры были специально созданы для решения конкретных задач, например, для определения траектории артиллерийского снаряда, выпущенного под углом 45 градусов и скоростью 500 метров в секунду. Чтобы решить еще одну проблему, пришлось переподключить компьютер. Тьюринг создал современные устройства, в которых все компоненты, процессоры и память, используют одну и ту же информацию, нули и единицы, и все это управляется программными инструкциями. Вам нужно складывать и вычитать числа в электронной таблице? Просто напишите компьютерный код, чтобы сделать это. Нужно отредактировать текстовый документ? Напишите соответствующий код. С машиной Тьюринга (то есть со всеми нашими цифровыми устройствами) вам не нужен другой компьютер, просто другой код.

Уже тогда люди беспокоились о машинах и их возможностях. Как узнать, достиг ли компьютер человеческого интеллекта и может ли он делать (иногда не очень хорошие) человеческие вещи? Как узнать, есть ли у вас мозг? Ответом Тьюринга стал тест Тьюринга. Поместите реального человека с надписью P и компьютер C за отдельные занавески. Подвергните их серии допросов. Профессор Смит задает вопросы из области своих интересов, внимательно выслушивает ответы П и С. Доктор Джонс приходит, когда Смит закончила, и задает П и С список вопросов из ее области знаний. Подмастерье Фредерик сменит Джонса и так далее. После допросов интервьюеры сверяют записи. Могут ли они из ответов, данных P и C, определить, кто является человеком, а кто компьютером? Если нет, то перед вами умная машина.

Практически по всем параметрам ChatGPT проходит тест Тьюринга. И это удивило даже ученых-когнитивистов, которые всю жизнь изучают человеческий мозг. Он преуспевает в «задачах теории разума» и изучает новые модели поведения, которые, судя по всему, выходят за рамки его обучения. Я не буду описывать здесь теорию интеллектуальных тестов; если вам интересно, вы можете найти пример в подкасте Дэвида Кестенбаума (Кестенбаум, 2023). Однако я расскажу еще об одном ошеломляющем поведении ChatGPT.

Инженеры, которые создали ChatGPT проблему стекирования, которую я описал пару недель назад, также разработали эту проблему. «GPT-4.0, нарисуй мне единорога». Ха! С этим временем точно запутался. GPT обучен на тексте. Это не Далл-И, художник-ИИ. Оно не может рисовать. Единорога ни в коем случае не будет.

Он нарисовал единорога. Это не самый причудливый единорог из сказок о принцессах, но это узнаваемый единорог. Четыре ноги, массивное овальное тело, овалы поменьше вместо хвоста, голова с заостренным треугольным рогом золотого цвета, так что его невозможно не заметить. Как будто GPT указывает: «Видите, я знаю, что важно в единорогах».

Как он это сделал? Что ж, он узнал все о единорогах, прочитав сказки о единорогах в ходе веб-обучения. Как они выглядят, почему они разные. И он может писать компьютерный код. Он не умеет рисовать, но может писать код. Итак, он написал код для рисования единорога. Подумай об этом. Оно научилось рисовать. Он обитает в компьютере. Он написал инструкции для своего компьютера, чтобы нарисовать единорога.