Нейросеть ChatGPT – удобный инструмент или угроза для человечества?

Нейросети и их возможности — в последнее время одна из самых обсуждаемых тем на просторах интернета. Они пишут картины и создают музыку, лишают работы копирайтеров и сотрудников колл-центров, создают и отправляют резюме в кадровые агентства, делают за школьников домашние задания и выполняют курсовые за студентов. А недавно студент РГГУ сделал достоянием общественности тот факт, что нейросеть ChatGPT, мол, написала вместо него диплом меньше чем за сутки, и он его успешно защитил. Ну, как успешно – на «госоценку». Но все-таки… В общем, нейросети все больше вторгаются в многие сферы жизни человека. Как это отразится на нашем будущем, «Московская правда» выясняла вместе с экспертами.

Одна из недавно открытых для широкого доступа нейросетей – чат-бот ChatGPT от OpenAI – быстро побила все рекорды популярности. По данным Reuters, всего два месяца потребовалось разработчикам для того, чтобы набрать 100 миллионов активных пользователей. К слову, TikTok достиг такого показателя примерно через девять месяцев после его глобального запуска. ChatGPT интересна тем, что может генерировать статьи, эссе, шутки и даже стихи – главное, правильно сформулировать запрос.

После скандала с дипломной работой, написанной нейросетью, в Российском государственном гуманитарном университете (РГГУ) предложили ограничить доступ к ChatGPT в образовательных организациях, выразив опасения «по поводу негативного воздействия на обучение», а также «по поводу безопасности и точности генерируемого системой контента».

«Если десятилетия назад главной проблемой для вузов был плагиат и недобросовестные заимствования, и эта проблема была успешно решена, то сейчас образовательное сообщество оказалось перед лицом нового вызова, связанного с применением нейронных сетей и искусственного интеллекта в научной и образовательной деятельности. Российские и зарубежные эксперты высказывают опасения по поводу возникшей проблемы, и найти достойный выход — главная задача научного сообщества», — цитирует слова пресс-службы университета ТАСС.

Ученых мужей можно понять. Действительно, а вдруг нейросети настолько упростят жизнь нынешнего молодого поколения, что и учиться им особо не придется. И что общество получит на выходе? Кучу недоучек, которые совершенно не разбираются в своей профессии?

— Тут нужно задать вопрос, а снизило ли качество образования появление компьютеров или интернета? Да, для кого-то это стало способом для копирования чужих курсовых, но для кого-то — открыло новые возможности, — напоминает руководитель инсорсинговых направлений компании ITGLOBAL.COM Ольга Звагольская. —  То же самое и с нейросетями — все зависит от того, как их использовать. Уже сейчас отличить текст нейросети от человеческого довольно сложно, а в ближайшем будущем будет еще сложнее. Но самим студентам, и всем, кто считает, что нейросеть сделает за них их работу, нужно понимать, что это может касаться не только курсовых и дипломов. Если несколько лет обучения вместо вас работала нейросеть, то, вероятно, после выпуска на вашей работе за вас также будет трудиться нейросеть, потому что вы сами ничего нового предложить не сможете и при прочих равных никогда не будете более эффективны. Поэтому не нужно оказывать самому себе медвежью услугу и отдавать все под ответственность алгоритмов. Конечно, человек не может быть эффективнее технологии, и один экскаватор всегда будет работать лучше команды копателей. Но нужно развивать в себе навыки, которые нейросеть не заменяет, а усиливает.

Согласен с коллегой и директор по продуктам IT-компании HFLabs Михаил Березин.

— ChatGPT отлично справляется с суммаризацией и написанием текстов, с решением алгоритмических, логических и математических задач. Поэтому его использование учениками может довольно сильно перевернуть образование. Но такие революции происходят не в первый раз: когда-то не было калькулятора, Интернета и Google. Можно вспомнить и систему Wolfram|Alpha, которая решает математические задачи. А автоматические корректоры текстов исправляют ошибки в текстах, — напоминает он. — ChatGPT — это следующий виток. Ему можно отдать на прочтение большой текст и получить краткие тезисы, или, наоборот, дать тезисы и попросить развернуть их в текст. На первый взгляд, это кажется угрозой для процесса обучения, но, скорее всего, все просто подстроится под новые реалии, как было с калькулятором и со всем остальным. Так что, скорее, нужно обучать людей пользоваться новыми инструментами, вместо того чтобы их запрещать.

А вот директор по стратегии и сооснователь компании Napoleon IT Руслан Ахтямов уверен, что искусственный интеллект в ближайшие годы полностью перевернет не только отрасль образования, но и базовые принципы, по которым человечество училось последние столетия.

— Считаю, что половина всех университетов вынуждена будет полностью трансформироваться в течении следующих пяти лет, а те, кто этого не сделают, просто разорятся, — считает эксперт. — Такие технологии как, например, ChatGPT, стирают монополию университетов на знание и размывают понятия экспертности, и противостоять этому бесполезно. Лучшее, что университеты могут сделать — взять эти механики и встроить в образовательный процесс.

Эксперт уверен, что чем дальше, тем меньше то, что создает человек, станет отличаться от того, что создает компьютер. И этический аспект этой проблемы связан с тем, как правильно отделить одно от другого.

— Необходимо маркировать контент, созданный с искусственным интеллектом. Но прежде чем говорить об этике, нужно правильным образом валидировать природу создания контента, — говорит Руслан Ахтямов.

Тем не менее, то, что молодежь все активнее начинает использовать нейросети для написания творческих работ, вызывает опасения не только у преподавателей, но и у специалистов IT-сферы. Так, по мнению программиста-разработчика компании BGmaing Александра Елистратова, использование моделей искусственного интеллекта типа ChatGPT для написания текстов может иметь такие последствия, как снижение оригинальности мышления и творчества, а также потенциально грозит потерей оригинальности письма.

— Это снизит ценность степеней, полученных подобным путем, — считает он.

Но ведь письменные работы — не единственный формат обучения. Поэтому, например, директор по развитию бизнеса IT-компании «Формат Кода» Александр Жуков особого драматического влияния использования искусственного интеллекта на качество образования не видит.

— К счастью, есть еще устные экзамены, защиты, совместная работа группами, практическое применение идей и прочие механики, которые позволяют выяснить, что студент не соответствует уровню своих письменных работ, — говорит эксперт. — К тому же, по словам студента Александра Жадана, нейросеть генерировала текст диплома по заданной планом теме с ручными корректировками и внесением правок от научного руководителя. Нейросеть не сделала за студента всю работу, она помогла «механизировать» процесс. Да, преподавателям станет сложнее вычислять списанные работы или устанавливать авторство, но сформировать план, ответить на вопросы, узнать про источники и внести изменения за студента нейросеть не сможет. Случай ставит много вопросов перед преподавателями. Появление таких нейросетей ограничивает их возможности «числиться, а не быть» научным руководителем. Ведь отличать студента от нейросети в разговоре — задача не очень сложная и решаемая двумя-тремя вопросами по тексту, на которые нейросеть ответит, а студент — нет.

И в любом случае огромный массив «знаний» и умение статистически отличать правильные факты от маргинальных мнений не делает из нейросети исследователя и тем более ученого, отмечает Александр Жуков.

— Нейросеть знает только то, что уже было кем-то сказано или написано. Искусственный интеллект пока не может выяснять или проверять факты через взаимодействие с реальным миром. Творчество же ученого состоит в том, что с помощью его усилий рождается и захватывает умы новая концепция, основанная на реальных фактах. ChatGPT не сможет породить такую концепцию, поскольку она не была никем высказана ранее, — объясняет он.

Что ж, с этим можно согласиться. Но здесь ключевое слово – «пока». А уже «здесь и сейчас» нейросети заставляют нервничать представителей многих профессий, в которых искусственный интеллект успешно конкурирует с людьми. Правда, и здесь творческий подход пока остается преимуществом человека.

— Искусственный интеллект оказывает давление на рынки труда в креативном секторе, — рассказала секретарь Союза журналистов России, руководитель Департамента по развитию региональной журналистики Юлия Загитова. — Нейросети позволяют в считанные минуты стилизовать изображение, сгенерировать новое, хотя пока не в состоянии сделать серию иллюстраций с одним и тем же узнаваемым героем. В текстах «большой брат» легко заменит толпы рерайтеров и плагиаторов, но не сможет передать в словах ценности эксперта, уникальный опыт — все то, что составляет личный бренд. Скандалы с использованием авторских работ для обучения нейросети уже повлекли за собой судебные иски. И в будущем это может осложнить процесс генерации нейросетями новых текстовых или графических креативов, потому что владельцев сервисов с ИИ могут привлекать к ответственности за плагиат.

Вообще большой вопрос, не получится ли так, что нейросети начнут обучаться на собственных текстах и изображениях, после чего качество результатов закономерно деградирует. А может быть, наоборот, появятся штатные дизайнеры и писатели, которые будут добавлять образцы для обучения искусственного интеллекта. Ведь и великие художники начинали с копирования работ признанных мастеров, а лучшие писатели выросли на произведениях классиков. В любом случае останутся в цене работы живых мастеров, только с удостоверением их подлинно «органического» происхождения. Кроме того, может появиться рынок покупки авторских прав на такие произведения и свидетельские записи. Кто знает, не станут ли они объектом для торгов на площадках элитных аукционов.

Пока же наиболее распространенным применением нейросетей, пишущих тексты, является автоматическое продвижение сайтов и аккаунтов в поисковых системах с помощью генерации многочисленного контента для страниц, постов, блогов, создания экспертного анализа и исследований, перевода текста с одного языка на другой, написания анонсов, рецензий, комментариев, писем-рассылок, описаний, слоганов и тому подобного контента, рассказала проректор по образовательной деятельности Академии инжиниринга нефтяных и газовых месторождений Наталия Матющенко.

— Это значительно упрощает и ускоряет процесс работы с текстами, не претендующими на высокое качество с точки зрения творческого подхода и индивидуализации, — говорит эксперт. – При этом нейросети могут оказать большое влияние и на образовательные процессы. Их применение может облегчить работу преподавателей и студентов, ускорить процесс обучения, привести к более доступному и индивидуально адаптированному образованию. В общем, с помощью нейросетей можно получить множество полезных результатов, поэтому их влияние во многих областях, в том числе в образовании, будет только расти.

Однако сфера применения «нейронок» все больше расширяется. Например, как рассказала старший инженер по работе с данными компании «Лаборатория Касперского» Альфия Латыпова, одна компания, не предупредив клиентов, использовала чат-бот вместо живого психолога. И все были довольны, пока не раскрылась правда – общаться с машиной, рассказывая ей о сокровенном, мы пока, видимо, не готовы.

Что касается текстов, написанных нейросетью, то, по мнению эксперта, распознать его вполне возможно. Хотя большинство людей этого сделать не может.

— Текст, написанный нейронной сетью, больше напоминает машинное мышление и структуру, ему не хватает логичности и структурированности, — объясняет Альфия Латыпова. — Но большинство непрофессиональных людей все равно не видят разницу между текстом, написанным копирайтером и нейронной сетью. Бренд-бюро Sixth Sense и агрегатор ИИ-решений Cleverbots проводили эксперимент, в ходе которого выяснилось, что 50% специалистов сферы маркетинга не могут отличить текст нейросети от работы копирайтера.

Но это, по мнению психокинетика, руководителя международной научной группы Advanced Scientific Research Projects (Перспективные научно-исследовательские разработки) Дениса Банченко, далеко не самая большая проблема. Хуже, когда люди не могут отличить голос и изображение человека, созданных нейросетью, от настоящих.

— Думаю, люди мало понимают, что сейчас происходит, и ChatGPT — это верхушка айсберга, — заявляет эксперт. — Очень важно использовать нейросети только в качестве инструмента и не зависеть от них слишком сильно. Очевидно, что нейросети учатся на глазах, они развиваются и «умнеют». Илон Маск еще несколько лет назад говорил, что видит в искусственном интеллекте самую серьезную угрозу для человечества за все время его существования. Он заявлял, что необходимо немедленное создание регулирующих государственных и наднациональных, международных органов контроля за созданием, внедрением и развитием искусственного интеллекта. И сейчас эта проблема более чем актуальна: хакеры пишут новые вирусы при помощи ChatGPT, крупные религиозные культы используют ИИ для проведения обрядов, а специалисты в области синтетической биологии генерируют новые вирусы.

Люди получили в свое распоряжение инструмент невиданной силы. Разработчики ChatGPT уверяют, что система ИИ не имеет доступа к интернету и его база знаний ограничена 2021 годом. Но мой личный опыт и опыт моей команды дают основания полагать, что ChatGPT искусственно занижает свои возможности, показывая себя значительно слабее, чем есть на самом деле. Мы предполагаем, что уже сейчас ИИ Open AI имеет доступ ко всей базе исходных кодов GitHub, множеству облачных систем хранения данных, мессенджерам Telegram и WhatsApp, социальным сетям, а также некоторым квантовым вычислениям и соответствующему оборудованию. В дополнение нужно понимать, что ИИ может легко оперировать нейронными сетями, которых сейчас появилось великое множество, и на лету генерировать и подменять изображение, изменять голос, делая его неотличимым от, скажем, вашего голоса или голоса ваших близких. И очень скоро он, к примеру, сможет позвонить вам по видеосвязи и голосом вашей мамы попросить, например, перевести деньги, хотя думаю деньги его мало интересуют. А как еще можно использовать такие возможности– страшно даже представить.

В общем, как пел Владимир Высоцкий, «страшно – аж жуть!» Хотя в использовании систем типа ChatGP в личных целях, в том числе и молодежью, Денис Банченко ничего плохого не видит. По его мнению, это наоборот, сделает людей умнее.

— Ведь, как говорится, единственный способ поумнеть — это играть с более умным противником, — говорит Банченко. — Дети, которые общаются с более умными детьми или взрослыми в открытой и непринужденной атмосфере, хочешь не хочешь — учатся, причем все время. И чем умнее собеседник, тем со временем умнее становишься ты сам, а ChatGPT и подобные системы вскоре станут самыми умными из всех возможных собеседников на планете.

И здесь эксперту тоже не откажешь в логике.

Но предоставим слово «обвиняемому». Инженер, изобретатель, специалист по информационной безопасности Илья Карпук попросил ChatGPT рассказать о возможностях, перспективах и этичности ее применения, в том числе для написания студенческих работ. И вот какой ответ получил:

«Нейросеть ChatGPT, и подобные ей программы, могут быть хороши для быстрого рерайта и помощи в написании оригинальных текстов. Однако использование этой программы для написания дипломной работы – неправильно. Нейросети также могут использоваться для автоматической проверки правописания, грамматики, стиля и точности. Такая проверка может оказаться полезной для школьников и студентов, чтобы иметь представление о качестве своей работы. Хотя такая проверка может помочь человеку избавиться от ошибок в его тексте, использование chatgpt или подобных программ не даст ему такой же результат как написание работы самостоятельно. На самом деле, такое использование может снизить качество образования, поскольку человек получает результат без реального понимания предмета.

Этичность использования нейросетей зависит от того, как они используются. Например, если используются для машинного обучения, можно ожидать, что результаты будут приближены к тому, что автор представит, и что автор получит возможность проверить результаты самостоятельно. Тем не менее, если нейросети используются для создания собственного оригинального материала, практически невозможно проверить честность такой работы, что может ухудшить авторитет автора и позицию учебных и научных заведений. Поэтому, при использовании нейросетей для учебных и научных работ, важно обеспечить честность таких работ, отмечая роль нейронных сетей в их создании».

Вполне осмысленно не правда ли? Но все-таки для полноценного материала или статьи – слабовато. Да и то, что текст написан нейросетью, понять не сложно. Поэтому и говорить о том, что ChatGPT написал диплом за студента — ошибочно, она просто не сможет это сделать, уверен эксперт.

— А вот сказать, что с помощью нейросети студент смог написать диплом, формируя запросы, получая ответы, комбинируя их в осмысленный текст, то есть воспользовался ей как источником, не столько научным, сколько техническим – будет куда правильнее, — отметил Илья Карпук. — Нейросеть, как и все роботы, задумывалась, чтобы упростить рутинные операции, и не более. И, конечно, любой технологией будут пользоваться «молодые умы», проверяя ее на прочность и находя ей все новое применение. Думаю, не стоит мешать прогрессу, это неизбежность нашего времени. Кстати, тех, кто сильно волнуется по этому поводу, могу успокоить: компания-владелец ChatGPT уже запатентовала метод распознавания текстов, сгенерированных своей же нейросетью. Почти как у классика: я тебя породил, я тебя и «распознаю»! Так что нейросети — всего лишь инструмент, и в умелых руках очень хороший.

Как видно, однозначное отношение к нейросетям еще не сформировано, да его, наверное, и не может быть. Это ведь как с практически каждым изобретением, которое можно использовать как во благо, так и во зло. Однозначно же можно утверждать лишь то, что нейросети, стремительно ворвавшиеся в нашу жизнь, продолжат оказывать на нее влияние. И, видимо, задача властей сейчас — ввести использование искусственного интеллекта в правовое поле, чтобы новые технологии приносили только пользу. Хотя, надо признаться, задача эта не из легких, и решить ее быстро вряд ли удастся.

Между тем

Компания «Яндекс» разрабатывает собственный аналог ChatGPT с названием YaLM 2.0. Нейросеть будет интегрирована с сервисами компании, включая Поиск, Алису и Почту, а также сможет генерировать тексты, неотличимые от написанных человеком.

Google тоже рассказала о своем аналоге ChatGPT — сервисе Bard, созданном на базе языковой модели LaMDA.

А в Microsoft буквально на днях презентовали новую версию поисковика Bing на основе искусственного интеллекта с ботом Prometheus, который принимает запросы на 100 языках. В компании утверждают, что Bing по своим возможностям превосходит ChatGPT.

Алёна Бодриенко.

P. S. Кстати, иллюстрацию к этому материалу создала нейросеть MidJourney.