Илон Маск не раз говорил, что считает искусственный интеллект фундаментальной угрозой существования человечества.
Для тех, кто не понимает, как Сири и Алиса могут уничтожить таких гениальных венцов творения, как мы, поясним.
Во-первых, не так давно один из венцов творения сожрал летучую мышь, так что не такие уж мы и гениальные. А во-вторых — даже лучшие из нас весьма ограничены в интенсивности и скорости обучения. А вот искусственный интеллект — нет. Сейчас ИИ узконаправленный, но как только появится так называемый сильный ИИ, скорость его развития будет расти экспоненциально, и вскоре он достигнет сингулярности. А нам придет конец.
«Не можешь остановить безобразие — возглавь его!» — решил Илон Маск, и в 2015 году решил основать компанию Open AI.
Исследовательская лаборатория искусственного интеллекта OpenAI запустилась в декабре 2015 года. Менее, чем через год компания презентовала “тренировочный зал” для ИИ — платформу OpenAI Gym. На ней ИИ может играть в сотни игр и проходить процесс обучения с подкреплением. Благодаря этой платформе, бот Open AI в 2017 году впервые смог победить профессионального игрока в Dota 2. Параллельно с этим компания участвует в слушаниях конгресса по вопросам искусственного интеллекта — впервые в истории !
ПОЛУЧИЛ ДОСТУП К OPENAI (GPT-3) | ТЕСТИРУЕМ Искусственный Интеллект
Dota 2. Бой в самом разгаре.
Какие у компании цели? В первую очередь, это мониторинг открытости как создания, так и использования искусственного интеллекта. Учредители компании полагали, что концентрировать власть, которую дает ИИ, в одних руках опасно, и разработки должны быть открытыми.
Также компания организует строгий контроль над программами, способными создавать другие программы, и при этом — создает закрытые системы, внутри которых нейросети смогут взаимодействовать между собой и учиться без тщательного отбора данных.
Третья цель — конечно же, развитие кибербезопасности. Результаты всех исследований компании — публичны, и сотрудничество с другими компаниями предается огласке.
Главное, чтобы ИИ оставался дружественным
В феврале 2018 года из-за потенциального конфликта интересов Open AI и Tesla Илон Маск покинул совет директоров Open AI. Работа компании продолжается и без непосредственного участия Маска: в июле всё того же 2018 Open AI показывает роботизированную руку, способную управлять физическими объектами с невиданной до сих пор ловкостью.
Компьютерная программа OpenAI Five в это же время продолжала учиться играть в Доту, как бы смешно это ни звучало. И к августу 2018 побеждала 99,95% профессиональных игроков, оставаясь, однако, слабее в командном режиме. Эту проблему удалось преодолеть в апреле 2019 — с тех пор можно быть уверенным, что ИИ способен обыграть и игрока, и команду.
Помимо этого, Open AI смогли обучить ИИ предсказывать следующее слово в любом тексте, собирать кубик Рубика с помощью роботизированной руки и даже писать музыку и текст для песен в стиле культовых музыкантов. Последнее, честно говоря, пока звучит не очень, но все еще впереди.
Вся презентация нейросети будущего — GPT4 от OpenAI на русском за 7 минут
ИИ собрал кубик-рубика за 4 минуты. А за сколько собираете вы?
В 2020 году Open AI запускает коммерческое использование технологии, которая может генерировать текст на основе всего одного предложения, в качестве закрытой бета-версии. Стоит упомянуть, что ранее технологию называли потенциально опасной, а закрытую бету запустили для финансирования компании. Что из этого получится — покажет время.
После ухода из Open AI Илон Маск, по всей видимости, решил, что этого мало — и создал компанию Нейралинк. Ее целью стало контролируемое слияние человека и компьютера, избегая при этом реализации сюжета Терминатора. Но это уже совсем другая история.
Надеемся, по этому сценарию мы не пойдем.
Расскажите, какие разработки Open AI показались вам наиболее перспективными? Верите ли вы в дружественный ИИ или же вам кажется, что создание сильного искусственного интеллекта вовсе недостижимо?
Источник: dzen.ru
OpenAI — SkyNet от Илона Маска. Разбор
А может быть вы наоборот считаете, что до реального искусственного интеллекта еще так далеко и что нам, на нашем веку, можно вообще не беспокоиться. Ведь для реальной интеллектуальной деятельности машин нужны гораздо большие вычислительные мощности!
Сегодня, на примере еще одного стартапа Илона Маска, под названием OpenAI, мы с вами посмотрим насколько далеко от нас реальный SkyNet и расскажем вам о том, в каком состоянии находится разработка ИИ в принципе прямо сейчас.
Сегодня мы с вами узнаем может ли робот написать симфонию или нарисовать шедевр?
Что такое ИИ?
Для начала давайте поймем, что такое искусственный интеллект?
Согласно одному из определений — это искусственно созданная система, которая может решать творческие задачи, способна к саморазвитию, самопостроению и самоулучшению себя и себе подобных.
В принципе само понятие ИИ — это скорее философское понятие. Мы никогда не увидим громких заголовков, вроде “Изобретён Искусственный Интеллект!”, человечество будет идти к нему медленно, но уверенно.
К сожалению, нет абсолютно точного определения, что такое искусственный интеллект, но есть тест. Знаменитый тест Алана Тьюринга, который он описал в 1950 году в философском журнале Mind. Суть теста заключается в том, что человеку и компьютеру задаются различные вопросы, а третий человек слушает их ответы. Главное, что человек слушающий ответы не знает, кто именно отвечает и, если у компьютера получилось обмануть человека, то считается, что компьютер победил и прошел тест Тьюринга.
Этот тест был впервые пройден компьютером в 2014 году. Специальная программа Eugene, или Женя Густман, с использованием пяти суперкомпьютеров, смогла обмануть 33% собеседников, что превысило необходимые 30% для прохождение порога.
Кстати, тест Тьюринга работает в две стороны. Есть и обратный тест, тест на человека, и его наверняка проходил каждый смотрящий это видео — это знаменитая Captcha — Completely Automated Public Turing test to tell Computers and Humans Apart или по-русски — полностью автоматизированный публичный тест Тьюринга для различения компьютеров и людей.
И казалось бы, тест пройден, вот он искусственный интеллект, но на самом деле все гораздо сложнее.
В общем, есть два подхода к созданию ИИ:
Первый — нисходящий, считайте сверху-вниз, то есть создание, баз знаний и систем, имитирующих реальные психические процессы человека, такие как мышление, рассуждение, эмоции, творчество и так далее.
Второй, который, опять же, знаком большинству из вас: восходящий или снизу-вверх, когда изучаются нейронные сети и так называемые эволюционные вычисления. Создаются простейшие нейронные модели, сочетание которых в итоге моделирует интеллектуальное поведение.
Это и есть те самые нейронки, о которых мы уже вам раньше рассказывали! Это именно те самые нейронки, которые занимаются улучшением ваших фотографий и подбором видео в TikTok.
Основная идея в том, что в будущем, объединив множество нейронных сетей, предназначенных для разных целей, можно построить фактически самостоятельно думающий компьютер, уровень самообучаемости и знаний которого будет такой, что он будет саморазвиваться! Это и есть ИИ.
Что сейчас?
О современном состоянии ИИ сказать не просто. Ведь есть множество областей, где нейронные сети и ИИ применяются очень активно. Хорошим примером является автопилот машин Tesla!
А есть области, где только планируется начать активное внедрение, и тут можно вспомнить о медицине. Только подумайте — нейронная сеть, которая может в автоматическом режиме производить анализ результатов и давать советы по лечению, например, обработка рентгеновских снимков или анализы крови!
Вообще за последние пять лет интерес к области искусственного интеллекта вырос более чем в 3 раза, а количество стартапов только в период с 2015 до 2018 год выросло на 113 процентов.
А поскольку это очень активно развивающаяся область, то и количество ежегодных научных публикаций за последние 20 лет выросло раз в 8!
Огромным скачком стало и развитие нейронных модулей в процессорах, и рост инвестиций в эту область огромный!
В общем, вы поняли — развитие области не просто идет, оно летит вверх!
И знаете, что самое интересное? На вопрос героя Уилла Смита о том может ли робот написать симфонию, уже можно ответить — Да, может!
OpenAI
Илон Маск и еще 5 инвесторов в 2015 году организовали стартап под названием OpenAI, основная суть которого была в том, чтобы увеличить контроль над развитием и созданием ИИ.
Основатели OpenAI говорили о ней именно как о некоммерческой организации, которая не связана финансовыми обязательствами акционеров, чтобы исследователи могли сосредоточить свои силы на создании положительного воздействия ИИ на человека.
Сам Маск говорил, что считает ИИ одной из главных угроз человечества и для его лучшего контроля он активно поучаствовал в создании стартапа, который как раз занимается исследованиями в области ИИ.
«Если не можешь победить что-то — возглавь!», судя по всему именно этим они и руководствовались! И их результаты удивляют.
Вы наверное помните новость о том, что нейронная сеть обыграла команду OG, чемпионов International 2018 и 2019 годов в DOTA 2! Так вот эта нейронная сеть была создана командой OpenAI. Билл Гейтс тогда написал, что это очень важное событие, так как игра требует сложного командного взаимодействия.
Всего за время разработки OpenAI представили несколько нейронных сетей. Например, Jukebox — специальная программа, обученная на более чем 1 миллионе песен всех жанров, которая способна самостоятельно писать музыку, осмысленный текст, и даже синтезировать вокал! Так что да — и симфония, написанная машиной, уже возможна!
Только послушайте примеры! В принципе, большинство современных рэп-исполнителей больше не нужны.
А как вам нейросеть DALL·E, которая способна просто по текстовому описанию, рисовать картинки? Она способна сама понимать контекст написанного, например человек задает “a collection of glasses sitting on the table” и давайте посмотрим, что выдает нейронная сеть?
Если переводить с английского, то изначальное описание можно сформулировать двумя вариантами — первый это “набор очков на столе”, и мы видим, что нейронка рисует различные картинки, при этом есть и совсем нереалистичные. Но так же это описание можно перевести и как “набор бокалов на столе”, соответственно нейронная сеть рисует варианты и с бокалами!
Но как это стало возможным? Все благодаря специальному обучению алгоритма обработки естественного языка, под названием GPT-3. Это третья версия алгоритма представленная в 2020 году. Первая была анонсирована в 2018, для обучения которой была использована текстовая база в 5 Гигабайт, вторая версия спустя год уже изучила 40 гигабайт, а третья использовала базу в 500 ГБ текстов, данных, и 175 миллиардов различных параметров.
И такое количество данных позволяет ей делать уникальные вещи, например, понимать смысл прочитанного, писать большие структурированные тексты или, например, стихи!
Как же это работает?
На входе мы спрашиваем у программы вопрос! То есть мы фактически просим робота понять, что мы только что у него спросили и выдать нам ответ.
Алгоритму мы подаем один пример, где указываем лишь признаки и просим его предсказать, что будет дальше.
В процессе обучения будут ошибки, но внутренние алгоритмы рассчитывают ошибку в предсказании и обновляют нейронку до тех пор, пока ответ не улучшится.
И так несколько миллионов раз. Теперь представим, что наша нейронка уже обучена, то есть она уже скушала эти 500 ГБ текстов, которые взяла из книг и статей в интернете
Далее, после задания вопроса сети, начинаются сложнейшие многоуровневые преобразования. Заданные слова преобразуются в набор цифр и попадают в специальный 96-уровневый декодер, на каждом уровне этот набор чисел проходит через 1,8 миллиарда параметров для вычислений.
Чтобы было чуть более понятно — это авторегрессионная модель, то есть такая модель, которая учитывает результаты предыдущих вычислений и основывается на них на следующем кругу расчетов. И вот пройдя все эти круги в конце выдается ответ, который имеет наименьшую вероятность ошибки на основе предыдущего обучения! Далее выдается ответ.
И вы спросите а какие перспективы? Они огромные. Фактически GPT-3 способна решать любые задачи на английском языке уже сейчас. И не только…
Стоит сказать, что все совсем не так гладко с этой открытостью и светлым будущим ИИ. Дело в том, что Илон Маск покинул проект в 2019 году так как мог возникнуть конфликт интересов. И уже в 2020 году он открыто критиковал подход руководства организации в закрытости и непрозрачности, что, как мы помним, напрямую противоречит принципам заложенным в основе стартапа, да и даже в самом его названии!
А в середине 2020 года произошло что-то совсем странное. Microsoft выкупила эксклюзивные права на тот алгоритм GPT-3, что также подверглось жесткой критике со стороны Маска и сообщества.
Конечно, в самой компании заявили, что это никак не повлияет на доступ независимых разработчиков к GPT-3 через API компании, но определенно все эти новости вызывают недоверие и опасения.
Вывод
В любом случае все это развитие впечатляет. Еще пять лет назад никто и подумать не мог, что телефоны, со своими маленькими матрицами будут способны снимать астрофотографии, так как это делают современные смартфоны Pixel.
А скажите 15 лет назад кому-то, что автомобили самосто смогут самостоятельно безопасно ездить по улицам городов, на вас бы вообще как на сумасшедшего посмотрели!
Сегодня все это уже реальность с развитием нейронных технологий и искусственного интеллекта! И это только начало пути нейронных сетей.
Нам лишь остается верить, что все эти системы будут хорошо контролируемы и защищены от возможных внешних воздействий. Ведь в таких важных вопросах, которые уже непосредственно касаются жизни людей, безопасность и надежность важнее всего.
А как мы с вами знаем даже всесильные три закона робототехники, легко обходятся!
- Блог компании Droider.Ru
- Сетевые технологии
- Машинное обучение
- Робототехника
- Искусственный интеллект
Источник: habr.com
Open ai что за программа
Недавно OpenAI выпустила раннюю демо-версию ChatGPT, и разговорный чат-бот быстро стал вирусным в социальных сетях. Всего за 5 дней у него было свыше 1 млн пользователей. И это неудивительно — люди выкладывают в социальные сети впечатляющие примеры его возможностей — от обычных разговоров до эссе и программного кода.
Сейчас создавшая его компания получает поддержку от самой Microsoft, но в ее истории упоминается немало других громких имен.
В 2015 году Илон Маск и бывший президент Y Combinator Сэм Альтман стали соучредителями OpenAI. Вместе с другими заметными представителями Долины, включая Питера Тиля и соучредителя LinkedIn Рида Хоффмана, они пообещали выделить на проект $1 млрд.
Группа стремилась создать некоммерческую организацию, ориентированную на разработку искусственного интеллекта «таким образом, который, скорее всего, принесет пользу человечеству в целом». Во всяком случае, именно так гласило заявление, опубликованное на сайте OpenAI 11 декабря 2015 года.
В то время Маск говорил, что ИИ является «самой большой экзистенциальной угрозой» для человечества.
Он не единственный, кто предупреждал о потенциальном вреде искусственного интеллекта. В 2014 году Стивен Хокинг предупреждал, что ИИ может привести к гибели человечества.
Заставь искусственный интеллект самообучаться и совершенствоваться – выбирай онлайн-курсы в каталоге курсов по машинному обучению.
«Трудно представить, какую пользу искусственный интеллект человеческого уровня может принести обществу, и столь же трудно представить, какой ущерб он может нанести, если будет создан или использован неправильно», — говорится в пресс-релизе, посвященном основанию OpenAI.
В течение следующего года OpenAI выпустила два продукта.
В 2016 году была представлена платформа Gym, которая позволяла исследователям разрабатывать и сравнивать системы обучения с подкреплением. Эти системы учат ИИ принимать решения с наилучшим совокупным вознаграждением.
Позже в том же году был выпущен набор инструментов Universe для обучения интеллектуальных агентов на сайтах и игровых платформах.
В 2018 году, через три года после того, как Маск помог основать компанию, он ушел из совета директоров OpenAI.
Тогда в корпоративном блоге сообщили, что CEO Tesla подал в отставку, чтобы «исключить потенциальный конфликт интересов в будущем», поскольку автопроизводитель также разрабатывает ИИ. Добавлялось также, что Маск продолжит делать
Маск годами рассказывал инвесторам Tesla о планах сделать свои электрокары автономными.
Позже он объяснил, что уволился из компании, потому что «не был согласен с кое-чем из того, что хотела сделать команда OpenAI».
В 2019 году миллиардер написал в Twitter, что Tesla также конкурировала за тех же сотрудников, что и OpenAI, добавив, что уже «более года» не был связан с компанией.
«Стоит сложить все вместе, и ясно, что лучше было расстаться по-хорошему», — объяснил он.
В последние годы Маск продолжал критиковать OpenAI. В 2020 году он писал в Twitter, что его доверие к компании было «невысоким», когда речь заходила о безопасности.
«По моему мнению, OpenAI должна быть более открытой», — прокомментировал он расследование MIT Technology Review. Журналисты обнаружили, что в лаборатории была распространена культура скрытности, хотя как НКО она должна была быть прозрачной.
.jpg.700x467_q95.jpg)
Фото в тексте: THEO WARGO / WIREIMAGE / GETTY IMAGES
Совсем недавно Маск заявил, что приостановил доступ OpenAI к базе данных Twitter для обучения ее программы.
«Нужно больше понимать о структуре управления и планах доходов на будущее, — написал он в Twitter. — OpenAI был создан как некоммерческая организация с открытым исходным кодом. Ни то, ни другое уже не является правдой».
В 2019 году компания создала ИИ-инструмент, который мог создавать фейковые новости. Сначала в OpenAI сообщили, что он настолько хорош, что они решили не выпускать его. Но позже в том же году была выпущена новая версия инструмента GPT-2.
В 2020 году компания выпустила еще одного чат-бота под названием GPT-3. В том же году OpenAI отказалась от своего статуса НКО.
В корпоративном блоге опубликовали следующее сообщение:
«Мы хотим увеличить нашу способность привлекать капитал, продолжая выполнять нашу миссию, и ни одна из ранее существовавших юридических структур, о которых мы знаем, не обеспечивает правильного баланса. Наше решение заключается в создании OpenAI LP как гибрида коммерческой и некоммерческой организации, которую мы называем компанией с ограниченной прибылью».
Благодаря новой структуре прибыли инвесторы OpenAI могли бы заработать в 100 раз больше своих первоначальных инвестиций, но ничего сверх этого. Оставшиеся деньги пойдут на некоммерческую работу.
В конце 2019 года OpenAI объявила о партнерстве с Microsoft.
Корпорация инвестировала в разработчика ИИ $1 млрд, и OpenAI заявила, что будет лицензировать свою технологию исключительно у Microsoft.
«Масштаб коммерческого и творческого потенциала, который может быть раскрыт с помощью модели GPT-3, огромен, и некоторые из этих возможностей настолько новы, что мы их даже не представляем.
Непосредственная помощь человеческому творчеству и изобретательности в таких областях, как написание и композиция, описание и обобщение больших блоков данных длинной формы (включая код), преобразование естественного языка в другой язык — возможности ограничены только идеями и сценариями, которые мы можем предложить», – говорится в сообщении Microsoft в блоге.
Партнерство позволяет Microsoft конкурировать с DeepMind, подразделением Google по искусственному интеллекту.
Читайте по теме:
В прошлом году компания выпустила ИИ-генератор изображений DALL-E, а в ноябре 2022 года представила обновленную версию программы. 30 ноября 2022 года заработал GPT-3.5.
В 2023 году представлено новое улучшенное поколение ChatGPT-4. Нейросеть понимает запросы с картинками и превосходит предыдущую версию по всем тестам. Разработчики уже назвали ее «произведением искусства».
Невероятный успех продукта OpenAI привлек внимание в технологической отрасли. Сразу несколько крупных компаний, в том числе Google и Tencent, сообщили о разработке аналогичных инструментов.
Илон Маск неоднократно выступал с критикой компании. Он утверждает, что человечество «недалеко от опасно сильного ИИ», а сам ChatGPT называет «пугающе хорошим». В марте 2023 года миллиардер и группа специалистов в области ИИ призвали приостановить обучение систем на полгода.
«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а их риски — управляемыми», — говорится в открытом письме.
Впрочем, CEO OpenAI Сэм Альтман разделяет подобные опасения. По его словам, не бояться ИИ «было бы безумием», но он верит: «лучшее в нас победит»
Фото на обложке: rafapress / Shutterstock
Источник: rb.ru