Я посмотрел около сотни примеров того, как GPT-4 (новая версия ChatGPT) отвечает на вопросы из самых разных сфер. На большинство вопросов я бы ответил хуже, либо вообще не смог бы ответить. Даже там, где у меня есть экспертиза (математика, код), мне бы понадобились часы на то, чтобы дать ответ сопоставимый с тем, который GPT-4 выдает за несколько секунд.
Если вы считаете себя умным, попробуйте ответить на вопросы, которые задали GPT-4 исследователи Microsoft в статье «Sparks of AGI. Возможно, вы найдете какой-нибудь сложный вопрос и ответите на него лучше нейросети.
Если такое случится, подумайте о том, что вы обучались 20+ лет, чтобы дать такой ответ (годы на освоение речи, 10+ лет школы, университет и т. д.). Подумайте еще о том, сколько таких задач вы можете решить за свою оставшуюся жизнь, с учетом того, что вам надо есть, спать, и рано или поздно ваши интеллектуальные способности начнут деградировать. После этого задайте себе вопрос, кто умнее: вы или «тумпая машина».
Становясь сверхчеловеком: гуманоидные роботы с сильным искусственным интеллектом уже здесь
GPT-4 на экзамене отвечает без подготовки
GPT-4 делает ошибки. Но, во-первых, часто эти ошибки похожи на человеческие (70% ошибок GPT-4 в математике – ошибки в арифметике, классическое для человека «ой, забыл минус перенести»).
Во-вторых, эти ошибки можно объяснить тем, что, работая по принципу «next word generation», GPT фактически генерирует свои ответы на ходу, не имея возможности «подумать» над ними. Это как если бы вы вытянули билет на экзамене и в тот же момент вас заставили без подготовки отвечать.
Я взял один из вопросов, на который GPT-4 отвечает неправильно, и задал его своим человеческим друзьям, у которых с большой вероятностью есть интеллект. Чтобы смоделировать условия, в которых работает GPT, я дал им 5 секунд на ответ и сказал отвечать первое, что приходит в голову. Человек ответил хуже нейросети.
Работая в таких условиях, т.е. отвечая сходу, не думая, GPT-4 может решить задачу с международной олимпиады по математике 2022 года (которой не было в ее базе обучения). Что она сможет делать, когда ей дадут возможность сначала продумать свой ответ и только потом печатать?
Интеллект GPT принципиально отличается от интеллекта человека
На финальном этапе обучения GPT-4 комиссия из живых людей оценивает тысячи ответов нейросети и доучивает ее отвечать так, чтобы эти ответы нравились людям. В том числе, например, нейросеть учат, что в известной загадке про маму-хирурга, вместо «мамы» может быть «папа № 2». Этот этап обучения называется Reinforcement Learning from Human Feedback (RLHF).
С точки зрения развития науки RLHF следовало бы отменить. Вместо того, чтобы учить нейросеть понимать людей, нужно самим пытаться понять ее и исследовать ее в чистом виде, без привнесенных человеком артефактов. И тогда, например, может выясниться что нейросеть имеет свойства того, что называется «коллективным интеллектом».
Пример коллективного интеллекта:
У отдельно взятого муравья интеллекта нет, но колония муравьев как «супер-организм» демонстрирует интеллектуальное поведение, например, имеет разделение труда и занимается скотоводством
ИНЖЕНЕР ИИ Марков: Как думает ИИ? Сингулярность и Сознание
Учитывая, что GPT-4 создана на текстах, написанных миллиардами людей, ее интеллект скорее ближе к сознанию человечества как «супер-организма», чем к интеллекту отдельного человека.
Если «супер-организм» из примитивнейших муравьев занимается скотоводством, то на что способен «супер-организм» из обладающих интеллектом людей? Часть его достижений мы видим вокруг себя, но о будущих достижениях можно только догадываться. Точно так же можно только догадываться о том, на что будут способны следующие модели GPT.
2. Мышление человека – просто угадывание следующего слова
«Next word generation» решает человеческие задачи
GPT работает на принципе «next word generation»: она просто определяет, какое слово вероятнее всего должно быть следующим в ее ответе, и так, слово за словом, генерирует ответ.
Если этот принцип дает такие мощные результаты и позволяет на уровне человека решать сложные задачи, логично предположить, что мышление человека построено на таком же принципе.
Вы мыслите по принципу «next word generation»
Проследите за своей речью. Когда вы начинаете говорить предложение, знаете ли вы заранее, какими словами оно закончится? Или вы просто генерируете слово за словом, и оно само как-то собирается в осмысленное предложение?
Можно сказать, что речь не равно мышление. А решение задачи по математике – это мышление? В математике типичное решение незнакомой задачи выглядит так:
- Ступор: «Хз как это решать…»
- Гипотеза: «Может получится доказать от противного?»
- Преобразования: «Предположим что A не равно B. Отсюда следует, что…»
- Повторить 1-3 до тех пор, пока решение не окажется успешным
Когда вам из ниоткуда на ум приходит гипотеза решать незнакомую задачу методом «от противного» – вы ее не «придумываете», а интуитивно генерируете, так же как генерируете слова в своей речи. Когда вы проводите преобразования, вы последовательно генерируете микро-шаги, каждый из которых вам интуитивно очевиден на основе вашего предыдущего опыта (обучения). Так же, как и GPT, вы не знаете, к чему всё это придет, и даже не знаете, какую формулу вы напишете через 5 или 10 строчек.
Сложное мышление – это «next word generation» + рекурсия + рефлексия
Русские Блоги
Что такое сильная программа искусственного интеллекта и какие базовые возможности требуются?
Сильный искусственный интеллект также известен как общий искусственный интеллект или полный искусственный интеллект. Он относится к искусственному интеллекту, который может выполнять все задачи человека. То, что может делать человек, может делать сильный искусственный интеллект. Это определение слишком широкое и не имеет количественного стандарта. Оцените, какая компьютерная программа представляет собой сильный искусственный интеллект.
Программа, которую можно назвать сильным искусственным интеллектом, вероятно, потребует следующих возможностей:
1. Способность рассуждать, использовать стратегии, решать проблемы и принимать решения при наличии неопределенных факторов;
2. Способность выражать знания, в том числе умение выражать здравый смысл;
3. Способность к планированию;
4. Способность к обучению;
5. Умение общаться на естественном языке;
6. Умение интегрировать вышеперечисленные возможности для достижения поставленных целей.
Основываясь на описании нескольких вышеперечисленных способностей, мы, вероятно, можем представить, какие характеристики поведения будет демонстрировать компьютерная программа с сильным искусственным интеллектом.
Как только будет создан сильный искусственный интеллект, который соответствует этому описанию, мы можем почти с уверенностью сказать, что все человеческие рабочие места могут быть заменены искусственным интеллектом. С оптимистической точки зрения люди могут расслабиться и позволить роботам служить нам. , Каждый робот может быть в состоянии заменить конкретную работу каждого отдельного человека один на один, в то время как люди свободны в полном смысле, только ответственны за удовольствие, никакого труда не требуется.
Источник: russianblogs.com
Искусственный интеллект: когда на смену «слабому» придет «сильный»?
Как ни странно, но прогнозы специалиство на этот вопрос уже есть – примерно в период 10-30 лет появится ИИ, способный мыслить самостоятельно и осознавать себя. Он будет способен не только изучать новое, но и . созидать.
Разумный – значит, имеет право!
Что такое сильный и слабый ИИ?
Концепций искусственного разума всего две – «сильный» ИИ и «слабый» ИИ. Правда, философ Ник Бостром выделяет еще понятие супер-ИИ (Super AI) — интеллект, значительно превосходящий когнитивные способности человека. Но о нем говорить еще рано.
Слабый ИИ проник практически во все сферы деятельности человека — это различные приложения, умеющие делать то, чему их научил человек. Они играют, распознают образы, переводят тексты, оказывают голосовую помощь и многое другое из области решения интеллектуальных задач. Своими возможностями «слабый» ИИ поражает, но, тем не менее, он остается «слабым», так как это всего лишь прикладные системы.
«Сильного», универсального искусственного интеллекта пока не существует. Если под сильным понимать форму искусственного интеллекта, способную абстрактно мыслить, продумывать стратегии, понимать собственные мысли, рождать творческие идеи и вообще ничем не отличаться от разума человека.
Зачем нужен «сильный» ИИ
В первую очередь «сильный» ИИ нужен для спасения человечества от самого себя. К сожалению, наличие разума не обеспечивает человечеству полную безопасность. История человечества – это история войн, конфликтов интересов, кровавых боен. С наращиванием технологической мощи войны становятся быстрее и легче, а ход истории по катастрофическому сценарию – все более реалистичным.
Нам нужен кто-то, кто «умнее» нас, и способен принимать взвешенные решения, не опираясь назаблуждения, предрассудки, глупость и агрессию, что свойственно человеку. Мы стремимся создать себе воплощенного «Бога» — разумного, чувствующего, всемогущего , защищающего и решающего наши повседневные задачи лучше нас самих.
Разумный – значит, имеет право!
Хотя явления еще нет, но дебаты о временах, когда он появится, уже идут нешуточные. Нас, конечно, интересует судьба человечества в эпоху появления нового вида мыслящих существ. Кем мы-то станем в новой действительности? Каковы будут наши отношения? Останемся ли мы хозяевами на Земле, превратимся ли в рабов собственных творений или вообще исчезнем, как отжившая ветвь эволюции.
Кроме того, наличие разума предполагает наличие у носителя разума каких-то прав. В ООН уже об этом задумываются, ведь, например, в Конвенции о рабстве сейчас речь идет только о людях. Однако, если роботы «очеловечатся», то придется думать и об их правах тоже. И как быть в случаях несогласия универсального интеллекта с человеком в процессе решения какой-либо общей задачи?
А что думаете Вы?
Подписывайтесь на наш канал!
Источник: dzen.ru