Новый чат-бот компании OpenAI привлек внимание своими впечатляющими ответами, но насколько они правдоподобны? Давайте изучим темную сторону ChatGPT.
ChatGPT - это новый мощный чатбот с искусственным интеллектом, который быстро производит впечатление, но многие отмечают, что у него есть серьезные недостатки. Спросите его о чем угодно, и вы получите ответ, который будет звучать так, будто его написал человек, получивший свои знания и навыки письма благодаря обучению на огромном количестве данных в Интернете.
Однако, как и в Интернете, грань между правдой и фантазией очень переменчива, и ChatGPT не раз ошибался. Поскольку ChatGPT должен изменить наше будущее, вот некоторые из наших самых больших опасений.
Что такое ChatGPT?
ChatGPT - это большая языковая модель, которая была разработана для создания естественного человеческого языка. Вы можете разговаривать с ChatGPT, как с собеседником, и он запомнит то, что вы говорили в прошлом, а также сможет исправить себя в случае затруднений.
Он был обучен на всевозможных текстах из Интернета: Википедия, сообщения в блогах, книги и научные статьи. Это означает, что наряду с человекоподобными ответами он может вспомнить информацию о нашем современном мире, а также найти исторические сведения из нашего прошлого.
Научиться пользоваться ChatGPT очень просто, и легко обмануться, думая, что система искусственного интеллекта работает без проблем. Однако в течение нескольких месяцев после его выпуска люди по всему миру доводили ИИ-чатбота до предела, чтобы выявить некоторые ключевые проблемы.
1. ChatGPT генерирует неправильные ответы
Он не справляется с базовой математикой, не может ответить на простые логические вопросы и даже утверждает совершенно неверные факты. По свидетельству людей в социальных сетях, ChatGPT может ошибаться не один раз.
OpenAI знает об этом ограничении, написав следующее: "ChatGPT иногда пишет правдоподобно звучащие, но неправильные или бессмысленные ответы". Эта "галлюцинация" факта и вымысла, как ее называют, особенно опасна, когда речь идет о таких вещах, как медицинский совет или правильное изложение фактов о ключевых исторических событиях.
В отличие от других ИИ-помощников, таких как Siri или Alexa, ChatGPT не использует интернет для поиска ответов. Вместо этого он строит предложение слово за словом, выбирая наиболее вероятную "лексему", которая должна быть следующей, на основе своего обучения. Другими словами, ChatGPT приходит к ответу, делая серию догадок, что является одной из причин, по которой он может утверждать неправильные ответы так, как будто они полностью верны.
Хотя он отлично объясняет сложные концепции, что делает его мощным инструментом для обучения, важно не верить всему, что он говорит. ChatGPT не всегда прав - по крайней мере, пока.
2. В системе ChatGPT заложена предвзятость
ChatGPT был обучен на коллективной письменной речи людей по всему миру, в прошлом и настоящем. К сожалению, это означает, что те же самые предубеждения, которые существуют в реальном мире, могут проявляться и в модели.
Было доказано, что ChatGPT выдает ужасные ответы, дискриминирующие пол, расу и группы меньшинств, что компания пытается исправить.
Один из способов объяснить эту проблему - указать на данные как на проблему, обвиняя человечество в предвзятости, которая заложена в Интернете и за его пределами. Но часть ответственности лежит и на OpenAI, чьи исследователи и разработчики отбирают данные, которые используются для обучения ChatGPT.
И снова OpenAI знает об этой проблеме и заявила, что решает проблему, которую они называют "предвзятым поведением", путем сбора отзывов от пользователей, которым предлагается отмечать плохие результаты работы ChatGPT.
Учитывая потенциальную возможность причинения вреда людям, можно утверждать, что ChatGPT не следовало выпускать в открытый доступ до того, как эти проблемы были изучены и решены. Но гонка за тем, чтобы стать первой компанией, выпустившей самые мощные инструменты ИИ, может быть достаточной для OpenAI, чтобы бросить осторожность на ветер.
Для сравнения, аналогичный чатбот с искусственным интеллектом под названием Sparrow, принадлежащий материнской компании Google, Alphabet, был выпущен в сентябре 2022 года. Однако его намеренно держали за закрытыми дверями из-за аналогичных опасений по поводу безопасности.
Примерно в то же время Facebook выпустил языковую модель ИИ под названием Galactica, предназначенную для помощи в академических исследованиях. Она была быстро отозвана после того, как многие люди раскритиковали ее за выдачу неправильных и необъективных результатов, связанных с научными исследованиями.
3. ChatGPT может отобрать рабочие места у людей
Пыль еще не осела после быстрой разработки и внедрения ChatGPT, а лежащая в его основе технология уже используется в ряде коммерческих приложений. Среди приложений, в которые интегрирован GPT-4, есть Duolingo и Khan Academy.
Первое - это приложение для изучения языков, а второе - разнообразный инструмент для обучения. Оба приложения предлагают, по сути, ИИ-репетитора, либо в виде персонажа, управляемого ИИ, с которым вы можете разговаривать на изучаемом языке. Или в виде ИИ-репетитора, который может дать вам индивидуальную обратную связь по вашему обучению.
С одной стороны, это может изменить способ обучения, потенциально делая образование более доступным, а процесс обучения - более легким. Но с другой стороны, это лишит нас рабочих мест, которые долгое время занимали люди.
Технологический прогресс всегда приводил к потере рабочих мест, но скорость развития ИИ означает, что с этой проблемой сталкивается множество отраслей. ChatGPT и лежащие в его основе технологии кардинально изменят наш современный мир - от образования до иллюстрации и обслуживания клиентов.
4. ChatGPT может бросить вызов английскому языку старшеклассников
Вы можете попросить ChatGPT вычитать ваше письмо или подсказать, как улучшить абзац. Или вы можете полностью исключить себя из уравнения и попросить ChatGPT сделать все письменные работы за вас.
Учителя экспериментировали с заданиями по английскому языку, передаваемыми ChatGPT, и получали ответы, превосходящие по качеству то, что могли бы сделать многие их ученики. От написания сопроводительных писем до описания основных тем в известном литературном произведении - все это ChatGPT сделает без колебаний.
ChatGPT объясняет темы в романе "Нейромант" Уильяма Гобсона
В связи с этим возникает вопрос: если ChatGPT может писать за нас, нужно ли будет студентам учиться писать в будущем? Это может показаться экзистенциальным вопросом, но когда студенты начнут использовать ChatGPT для помощи в написании сочинений, школам придется быстро искать ответ. Быстрое внедрение искусственного интеллекта в последние годы должно потрясти многие отрасли, и образование - лишь одна из них.
5. ChatGPT может причинить вред реальному миру
Ранее мы уже упоминали о том, что неверная информация от ChatGPT может нанести реальный вред, одним из примеров которого является неверный медицинский совет. Но есть и другие опасения.
Скорость создания естественно звучащего текста позволяет мошенникам легко выдавать себя за знакомого человека в социальных сетях. Аналогичным образом, выявление фишингового письма, предназначенного для получения от вас конфиденциальной информации, упрощается, а дополнительным преимуществом является то, что ChatGPT может создавать текст без грамматических ошибок, что раньше было очевидным тревожным сигналом.
Распространение фальшивой информации также является серьезной проблемой. Масштабы, с которыми ChatGPT может создавать текст, в сочетании со способностью заставить даже неверную информацию звучать убедительно правильной, безусловно, сделают информацию в Интернете еще более сомнительной.
Скорость, с которой ChatGPT может создавать информацию, уже создала проблемы для Stack Exchange, сайта, посвященного предоставлению правильных ответов на повседневные вопросы. Вскоре после выхода ChatGPT пользователи начали заваливать сайт ответами, которые они просили сгенерировать ChatGPT.
Без достаточного количества людей-добровольцев, которые могли бы отсортировать накопившиеся вопросы, было бы невозможно поддерживать высокий уровень качества ответов. Не говоря уже о том, что многие ответы были просто неправильными. Чтобы избежать ущерба для сайта, был наложен запрет на все ответы, сгенерированные с помощью ChatGPT.
6. OpenAI обладает всей полнотой власти
С большой властью приходит большая ответственность, и OpenAI обладает большой властью. Это одна из первых ИИ-компаний, которая действительно потрясла мир, создав не одну, а несколько генеративных моделей ИИ, включая Dall-E 2, GPT-3 и GPT-4.
OpenAI выбирает, какие данные используются для обучения ChatGPT, однако эта информация недоступна для общественности. Мы просто не знаем подробностей о том, как происходит обучение ChatGPT, какие данные были использованы, откуда они взяты, или как выглядит архитектура системы в деталях.
ChatGPT объясняет, следует ли делать код ИИ открытым исходным кодом
Хотя OpenAI считает безопасность одним из главных приоритетов, мы многого не знаем о том, как работают сами модели, к лучшему или худшему. Считаете ли вы, что код следует сделать открытым, или согласны с тем, что его часть следует держать в секрете, мы мало что можем с этим поделать.
В конце концов, мы должны слепо верить, что OpenAI будет исследовать, разрабатывать и использовать ChatGPT ответственно. Независимо от того, согласны мы с методами или нет, OpenAI продолжит разработку ChatGPT в соответствии со своими целями и этическими нормами.
Решение самых больших проблем ИИ
В ChatGPT есть много интересного, но помимо его непосредственного применения, есть несколько серьезных проблем, которые стоит понять. OpenAI признает, что ChatGPT может давать вредные и предвзятые ответы, надеясь смягчить эту проблему путем сбора отзывов пользователей. Но его способность выдавать убедительный текст, даже если факты не соответствуют действительности, легко может быть использована людьми с дурными намерениями.
При использовании совершенно новой технологии трудно предсказать, какие проблемы возникнут в будущем. Поэтому, несмотря на то, что пользоваться ею может быть интересно, не стоит верить всему, что говорит ChatGPT.
Добавить комментарий