Выбранный штат: Иллинойс

Что может сделать с человечеством ИИ, когда станет сверхразумом

 

Фото: phonoteka.org

Сейчас мы находимся лишь на первой стадии развития ИИ. Впереди еще две, которые, по мнению некоторых ученых, могут угрожать непосредственно выживанию человечества, предупреждают некоторые эксперты, в том числе руководители OpenAI и Google Deepmind. Как машины могут одержать верх над людьми и что из этого выйдет, комментирует Forumdaily

С момента запуска в ноябре 2022 года ChatGPT этот чат-бот, использующий искусственный интеллект (ИИ), стал интернет-приложением с самыми быстрыми темпами роста в истории.

Всего за два месяца у него было 100 миллионов активных пользователей. По данным компании по мониторингу технологий Sensor Town, чтобы добиться этой отметки, Instagram понадобилось два с половиной года.

Десятки экспертов поддержали Центр безопасности искусственного интеллекта, который заявил, что «уменьшение риска вымирания человечества от искусственного интеллекта должно быть глобальным приоритетом наряду с другими рисками глобального масштаба, такими как пандемии и ядерная война».

В то же время другие эксперты считают, что такой страх преувеличен, и человечеству нечего бояться.

Тексты и изображения, созданные инструментами ИИ, такими как ChatGPT, DALL-E, Bard и AlphaCode, могут быть неотличимы от работы человека.

С их помощью студенты делают домашние задания, а политики пишут речи.

Технический гигант IBM заявил, что в скором времени перестанет нанимать людей на 7800 должностей, на которых может работать ИИ.

И какими поразительными ни были бы эти изменения – это только начало.

Три предполагаемые стадии развития искусственного интеллекта. 

1. Искусственный узкий интеллект (ИУИ)

Искусственный узкий интеллект, также известный как узкий ИИ, сосредотачивается на одной задаче и выполняет повторяющуюся работу в пределах заданного диапазона функций.

Он может изучать множество данных, например из интернета, но только в определенной области, на которую его запрограммировали.

Хороший пример – программы для игры в шахматы. Они могут победить чемпиона мира по шахматам, но это все, на что они способны.

В смартфонах есть множество приложений, которые используют эту технологию – от GPS-карт до музыкальных и видеопрограмм.

Даже более сложные системы, такие как беспилотные автомобили и ChatGPT являются формами узкого искусственного интеллекта. Они не могут действовать вне установленного набора задач, поэтому не могут самостоятельно принимать решения.

Однако некоторые эксперты считают, что системы, запрограммированные на автоматическое обучение, такие как ChatGPT или AutoGPT, смогут перейти на следующий этап развития.

2. Искусственный общий интеллект (ИОИ)

Искусственный общий интеллект станет реальностью, когда машина сможет выполнять любую интеллектуальную задачу, которую способен выполнить человек.

Искусственный общий интеллект – это точка, в которой машина имеет такие же интеллектуальные возможности, как и человек.

Шестимесячная пауза

В марте 2023 года более 1000 технологических экспертов призвали «все лаборатории искусственного интеллекта немедленно приостановить по крайней мере на 6 месяцев обучение систем искусственного интеллекта более мощных, чем GPT-4» (последняя версия ChatGPT).

«Системы искусственного интеллекта с человеческим и конкурентоспособным интеллектом могут представлять серьезные риски для общества и человечества в целом», – написали в своем обращении соучредитель Apple Стив Возняк и другие лидеры в области технологий, в том числе владелец Tesla и SpaceX Илоном Маском.

Правительство США признает потенциальные угрозы.

«Искусственный интеллект является одной из самых мощных технологий нашего времени, но для того, чтобы воспользоваться предоставляемыми ею возможностями, мы должны сначала смягчить связанные с ней риски», – говорится в заявлении Белого дома 4 мая.

Поскольку ИИ становится сильнее с каждым днем - это подводит нас к третьей и последней стадии ИИ.

3. Искусственный суперинтеллект (ИС)

Когда мы достигнем стадии 2 (ИОИ), то почти сразу перенесемся на завершающую стадию – искусственный суперинтеллект (ИС). Это произойдет, когда искусственный интеллект станет выше человеческого.

Научная фантастика

Эта концепция развития напоминает сюжет фильма «Терминатор», в котором машины начинают войну, чтобы уничтожить человечество.

Существует много дискуссий о том, может ли машина действительно приобрести такой широкий интеллект, как у человека, особенно когда речь идет об эмоциональном интеллекте, именно это больше всего волнует тех, кто верит, что мы близки к достижению ИС.

Недавно так называемый «крестный отец искусственного интеллекта» Джеффри Гинтон, пионер в обучении машин, предупредил, что мы можем вот-вот добиться этой вехи. По его словам, он теперь сожалеет о проделанной работе и опасается, что «плохие люди» будут использовать искусственный интеллект для «плохих поступков».

В то же время Гинтон отметил, что в краткосрочной перспективе, по его мнению, искусственный интеллект принесет гораздо больше преимуществ, чем рисков.

Вымирание или бессмертие

Британский физик Стивен Хокинг давно уже предупредил будущие поколения об опасности ИИ. «Развитие полноценного искусственного интеллекта может означать конец человеческой расы», – сказал он в 2014 году. По его словам, машина с таким уровнем интеллекта могла бы действовать самостоятельно и перепроектировать себя.

Наноботы и бессмертие

Одним из самых больших энтузиастов искусственного интеллекта является футуролог-изобретатель и писатель Рэй Курцвейл – исследователь искусственного интеллекта в Google и соучредитель Университета сингулярности Кремниевой долины.

Курцвейл верит, что люди смогут использовать суперинтеллектуальные ИИ для преодоления биологических барьеров.

В 2015-м он предположил, что к 2030 году люди смогут достичь бессмертия благодаря наноботам (чрезвычайно маленьким работам), которые могли бы исправлять любые повреждения и лечить болезни внутри нашего тела.

Управление ИИ

Ключевым является создание системы управления ИИ.

«Представьте себе будущее, где определенная сущность имеет столько информации о каждом человеке на планете и его привычках, что может контролировать нас способами, которых мы даже не осознаем, – говорит он. – Худшим является то, что мы не осознаем, что нами манипулируют, потому что мы живем на планете с существом, намного умнее нас».

 

По материалам Forumdaily