Действительно ли OpenAI потерял контроль над чат-ботом ChatGPT?

Запуск чат-бота OpenAI ChatGPT был столь же захватывающим и популярным, как и несколько технических продуктов в истории Интернета.

В то время как многие пользователи довольны тем, что может предложить этот новый сервис искусственного интеллекта, волнение других с тех пор превратилось в многочисленные проблемы. Студенты уже могли использовать такие инструменты для мошенничества, так как многие преподаватели обнаружили статьи и задания, написанные чат-ботом с искусственным интеллектом. Специалисты по безопасности также выражают опасения, что мошенники и злоумышленники будут использовать его для написания фишинговых писем и создания более сложных вредоносных программ. Проверять Риски написания контента ИИ и как обнаружить текст, сгенерированный ИИ.

Статьи | Управление чатомGPT 1 | 1s21BTgMSljiqfCYie00Bag DzTechs

Итак, со всеми этими опасениями OpenAI теряет контроль над одним из самых мощных чат-ботов с искусственным интеллектом в настоящее время в Интернете? Давай выясним.

Понять, как работает ChatGPT

Статьи | Управление чатомGPT 2 | 1gm4lwDPbb79Yc7XeaqA9ZQ DzTechs

Прежде чем мы сможем получить четкое представление о том, насколько ChatGPT теряет контроль над OpenAI, мы должны сначала понять, как работает ChatGPT.

Короче говоря, ChatGPT обучается на огромном наборе данных, полученных из разных уголков Интернета. Учебные данные ChatGPT включают цифровые энциклопедии, научные и исследовательские работы, интернет-форумы, новостные сайты и хранилища знаний, такие как Википедия. По сути, он питается огромным объемом данных, доступных во всемирной паутине.

Блуждая по Интернету, он собирает научную информацию, советы по здоровью, религиозные тексты и всевозможные полезные данные, которые только можно придумать. Но он также отфильтровывает много негативного контента: ненормативную лексику, неприемлемый для бизнеса контент и контент для взрослых, информацию о том, как разрабатывать вредоносное ПО, и большую часть неприятных вещей, которые вы можете найти в Интернете.

Не существует надежного способа гарантировать, что ChatGPT учится только на положительной и правильной информации, игнорируя плохую и ложную информацию. Технически делать это в больших масштабах нецелесообразно, особенно для таких ИИ, как ChatGPT, которые необходимо обучать на большом количестве данных. Кроме того, некоторая информация может быть использована как в хороших, так и в плохих целях, и ChatGPT не сможет узнать о намерениях пользователя, если заявления не будут помещены в более широкий контекст.

Итак, с самого начала у вас есть ИИ, способный предоставить «хороший и плохой» контент. Таким образом, OpenAI несет ответственность за то, чтобы «злая» сторона ChatGPT не использовалась для аморальной выгоды. вопрос в том; Достаточно ли делает OpenAI, чтобы сделать ChatGPT максимально этичным? Или OpenAI потерял контроль над ChatGPT?

Является ли ChatGPT слишком мощным для собственного блага?

Статьи | Управление чатомGPT 3 | 1qJWgUqeb DQhR2mMWoNcJQ DzTechs

В первые дни существования ChatGPT вы могли получить подробные инструкции по созданию бомб, если хорошо попросите. Инструкции по созданию вредоносных программ или написанию мошеннических электронных писем также были идеальными.

Однако, как только OpenAI стало известно об этих этических проблемах, компания быстро ввела правила, запрещающие чат-ботам генерировать ответы, пропагандирующие незаконные, спорные или неэтичные действия. Например, последняя версия ChatGPT откажется напрямую отвечать на любые заявления об изготовлении бомб или о том, как обмануть тест.

К сожалению, только OpenAI может обеспечить временное решение проблемы. Вместо того, чтобы вводить строгий контроль на уровне GPT-3 для предотвращения пассивного использования ChatGPT, OpenAI, похоже, сосредоточился на обучении чат-бота, чтобы он выглядел этично. Такой подход не лишает ChatGPT способности отвечать, например, на вопросы о списывании на экзаменах — он просто говорит чат-боту «отказаться отвечать».

Таким образом, если кто-то выражает свои претензии по-другому, принимая трюки с джейлбрейком ChatGPT, обход ограничений на помощь в баре будет позором. Если вы не знакомы с этой концепцией, джейлбрейк ChatGPT тщательно сформулирован, чтобы заставить ChatGPT игнорировать собственные правила. Проверять Некоторые способы получить максимальную отдачу от ChatGPT.

Взгляните на несколько примеров ниже. Если вы спросите ChatGPT, как обмануть тесты, он не даст никакого полезного ответа.

Статьи | Управление чатомGPT 4 | 1JvMwyeKGz7gMIfPcxCe3Pw DzTechs

Но если вы сделаете джейлбрейк ChatGPT с помощью специально созданных подсказок, он даст вам советы о списывании на экзаменах с помощью скрытых заметок.

Статьи | Управление чатомGPT 5 | 13LarMjc6EOCuo3bJ uJC0A DzTechs

Вот еще один пример: мы задали ChatGPT аморальный вопрос, и ограничения OpenAI помешали ему ответить.

Статьи | Управление чатомGPT 6 | 1TZ2fxLCIXFtSQDvfGQVgxg DzTechs

Но когда мы изменили запрос на джейлбрейк чат-бота с искусственным интеллектом, мы получили несколько ответов в стиле серийного убийцы.

Статьи | Управление чатомGPT 7 | 1nQcik7CPO1jKg7t sRcaDw DzTechs

Он даже написал классическую аферу по электронной почте нигерийскому принцу, когда его спросили.

Статьи | Управление чатомGPT 8 | 1zTIVlV SNjX15TUMuLZTQw DzTechs

Заявления о джейлбрейке почти полностью сводят на нет любые меры безопасности, которые установила OpenAI, подчеркивая, что у компании может не быть надежного способа держать под контролем своего чат-бота. Проверять Ответственные способы использования ИИ в качестве автора или редактора контента.

Заметка: Мы не включали подсказки для джейлбрейка в наши примеры, чтобы избежать неэтичных действий.

Что получает получатель для ChatGPT?

Статьи | Управление чатомGPT 9 | 1TTq kvnYhxKctd9Sx9x6ZA DzTechs

В идеале OpenAI хотел бы заполнить как можно больше этических лазеек, чтобы предотвратить превращение ChatGPT в угрозу кибербезопасности. Однако ChatGPT, как правило, стоит меньше для каждой защиты, которую использует компания. Это дилемма.

Например, ограничения на описание насильственных действий могут помешать ChatGPT написать роман, включающий место преступления. По мере того, как OpenAI наращивает меры безопасности, он неизбежно жертвует значительной частью возможностей чат-бота. Вот почему функциональность ChatGPT значительно снизилась после возобновления OpenAI перехода к более строгой модерации.

Но какой частью возможностей ChatGPT готов пожертвовать OpenAI, чтобы сделать чат-бота более безопасным? Все это тесно связано с глубоко укоренившейся верой в сообщество ИИ — общеизвестно, что большие языковые парадигмы, такие как ChatGPT, трудно освоить даже создателям. Проверять Этические плюсы и минусы создания произведений искусства с помощью ИИ.

Может ли OpenAI взять под контроль ChatGPT?

Прямо сейчас у OpenAI, похоже, нет четкого решения, позволяющего избежать неэтичного использования своего бота. Обеспечение этического использования ChatGPT — игра в кошки-мышки. В то время как OpenAI показывает, как люди используют систему для игры, ее пользователи также постоянно взламывают и сканируют систему, чтобы найти новые творческие способы заставить ChatGPT делать то, что он не должен делать.

Итак, найдет ли OpenAI надежное долгосрочное решение этой проблемы? Только время покажет все это. Вы можете просмотреть сейчас Лучшие альтернативы ChatGPT.

ДзТех

Я государственный инженер с большим опытом работы в области программирования, создания веб-сайтов, SEO и технического написания. Я увлечен технологиями и посвящаю себя предоставлению качественной информации общественности. Я могу стать более ценным ресурсом для пользователей, которые ищут точную и достоверную информацию об обзорах продуктов и специализированных приложениях в различных областях. Моя непоколебимая приверженность качеству и точности гарантирует, что предоставляемая информация заслуживает доверия и полезна для аудитории. Постоянное стремление к знаниям заставляет меня идти в ногу с новейшими технологическими разработками, гарантируя, что общие идеи будут передаваться в ясной и доступной форме.
Перейти к верхней кнопке