Что не следует спрашивать у чат-ботов с искусственным интеллектом

Если вы не живете далеко от цивилизации, скорее всего, вы слышали и даже использовали ChatGPT или аналогичный чат-бот с искусственным интеллектом. Хотя использование этих чат-ботов, безусловно, весело и упрощает доступ к информации, это также может быть опасно, если вы не знаете, что делаете.

Чат-боты с искусственным интеллектом имеют некоторые ограничения, и важно, чтобы вы понимали, что они влекут за собой. Итак, вот несколько вещей, которых следует избегать, задавая любой вопрос чат-боту с искусственным интеллектом. Проверять Большинство чат-ботов на основе искусственного интеллекта, с которыми можно поговорить и повеселиться.

Статьи | Чат-боты 1 | 1qlWIfo2w6Jy nxSrgDwHBg DzTechs

1. Медицинский диагноз

Чат-боты с искусственным интеллектом хороши во многих вещах, но они не ставят точные медицинские диагнозы. Конечно, вы можете не ошибаться все время, но доверять чат-боту диагностировать вашу болезнь вместо врача — это все равно, что искать в Google, что с вами не так, и предполагать болезнь по вашим совпадающим симптомам.

Чат-бот просто обобщает информацию, которую он получил из Интернета, которая может быть или не быть правдой. Самое главное, он не знает вашей истории болезни, чувствительности к определенным веществам или вашей толерантности, и поэтому не может судить, какой тип лечения подходит именно вам.

Интернет склонен преувеличивать, поэтому неудивительно, что многие люди, которые сами исследуют симптомы, обнаруживают у себя бред и тревогу. Использование чат-ботов с искусственным интеллектом может воспроизвести тот же эффект и усугубить ситуацию. Ради вашего собственного блага не обращайтесь к чат-боту за медицинской консультацией. Проверять Как искусственный интеллект улучшит будущее здравоохранения?.

2. Обзор продукции.

Статьи | Чат-боты 2 | 1wtTJLMYDBBLHLwpNYZ9OPw DzTechs

Чат-бот с искусственным интеллектом может легко указать цену и характеристики продукта, который может вас заинтересовать, но он никогда не сможет предоставить точный обзор продукта. Почему? Потому что обзор продукта по определению включает в себя личное мнение, опыт и суждения рецензента.

ИИ не может видеть, обонять, осязать, пробовать на вкус или слышать, поэтому утверждения, которые он может сделать о продукте — любом продукте, а не только о технологии — в своем «обзоре», будут неискренними.

Например, чат-бот с искусственным интеллектом не может ощущать ощущение телефона в руке, четкость его динамика, качество вибромотора, надежность датчика отпечатков пальцев, плавность программного обеспечения и универсальность телефона. . система камеры.

Если вы хотите получить рекомендации о том, какие продукты покупать, обязательно попросите чат-бота обобщить существующие отзывы. Вам нужно будет использовать ИИ-бот, который может искать в Интернете, например Bing со встроенным ChatGPT.

3. Юридическая консультация

Возможно, вы сталкивались с некоторыми статьями, в которых говорилось, что ChatGPT сдал экзамены в юридическую школу США и что в ближайшие годы чат-боты с искусственным интеллектом появятся в наших залах судебных заседаний. Это должно быть шокирующим, но быстрый поиск покажет вам, что мы на самом деле пытались внедрить ИИ в нашу правовую систему с 2015 года!

Некоторые компании уже создали параюристов с искусственным интеллектом и даже рекламируют их как доступную альтернативу адвокатам-людям. У этой концепции явно есть преимущество для людей, которые не могут позволить себе юриста-человека, но проблемы с так называемыми юристами с искусственным интеллектом слишком реальны, чтобы их игнорировать.

Очевидная разница в том, что чат-ботам с искусственным интеллектом не хватает здравого смысла. Вещи, которые инстинктивно очевидны для нас, людей, должны быть запрограммированы в чат-ботах, что сделает их менее способными рассуждать.

Самое главное, что адвокат-человек может искать новые доказательства и мыслить нестандартно, чтобы найти умные решения и лазейки. Но чат-бот с искусственным интеллектом может использовать только те данные, которые вы предоставляете, и обрабатывать их заранее определенным образом. Адвокат с искусственным интеллектом также был бы идеальной целью для хакеров, чтобы украсть конфиденциальные данные многих людей одновременно. Проверять Превратится ли ChatGPT в угрозу кибербезопасности? Вот на что следует обратить внимание.

4. Новости

Статьи | Чат-боты 3 | 1vwBnWto1ukZ IaZ6cqdvQQ DzTechs

Использование чат-ботов с искусственным интеллектом в качестве источника новостей связано с тремя основными проблемами: подотчетность, контекст и авторитет. Во-первых, подотчетность. Когда вы читаете новость, вы знаете издателя и журналиста, стоящего за ней. То есть кто-то несет ответственность за предоставленную вам информацию, поэтому есть явный стимул быть точным, чтобы поддерживать свою репутацию и авторитет.

Но с чат-ботом с искусственным интеллектом никто не пишет новости. Вместо этого бот просто суммирует истории, которые уже доступны в сети. Это означает, что нет первоисточника, и вы не знаете, откуда поступает информация. Следовательно, он не надежен.

Во-вторых, контекст. Если новость, которую вы читаете, представляет собой просто сводку информации, взятой из различных источников, она может быстро создать ложное повествование, потому что вы теряете более глубокий контекст каждой отдельной истории. Бот не знает, правда то, что он утверждает, или нет, он просто смешивает вещи таким образом, что на поверхностном уровне это кажется правильным.

И, наконец, салат. Мы знаем, что ChatGPT может быть предвзятым (среди прочего). Таким образом, если мы все обратимся к чат-ботам с искусственным интеллектом как к источнику новостей, это даст компаниям, стоящим за ними, возможность сдерживать любое негативное освещение и выделять все позитивное освещение причин, в которые вы верите и которые хотите продвигать. Это очень опасно по понятным причинам. Проверять Может ли Bing на базе искусственного интеллекта превзойти поиск Google?

5. Политическое мнение

Должно быть совершенно ясно, почему так важно спрашивать политическое мнение у чат-бота. Когда вы спрашиваете ChatGPT о своих предпочтениях по какому-либо политическому вопросу, вы обычно получаете сдержанный ответ, который говорит примерно следующее: «Как языковая модель ИИ, у меня нет личных предпочтений или желаний...»

Это ограничение понятно, но пользователи Reddit уже нашли способы, с помощью которых «взломщики ботов» могут беспрепятственно реагировать, используя всевозможные творческие эксплойты. Одно дело делать это для развлечения, но просить неограниченное политическое мнение у чат-бота с искусственным интеллектом — это то же самое, что разрешить вашему ребенку доступ к даркнету; Это не могло закончиться хорошо ни для одной из сторон. Проверять Действительно ли OpenAI потерял контроль над чат-ботом ChatGPT?

6. Коммерческий контент

Статьи | Чат-боты 4 | 1I2tM6iNyn8zrkNu aA0M7A DzTechs

Самым большим преимуществом чат-ботов с искусственным интеллектом является их способность мгновенно генерировать контент. То, что у человека может занять несколько часов, ChatGPT может сделать за секунды. Только не может.

Даже если вы игнорируете сомнительную этичность использования чат-ботов с искусственным интеллектом для написания контента, вы не можете игнорировать тот факт, что они просто недостаточно хороши, чтобы заменить людей-писателей. По крайней мере, еще нет. ChatGPT, например, часто предоставляет неточный, устаревший и повторяющийся контент.

Поскольку у этих ботов нет собственного мнения, суждений, воображения или прошлого опыта, они не могут делать разумные выводы, думать о примерах, использовать метафоры и создавать истории так, как это может сделать профессиональный писатель-человек.

Другими словами, он не добавляет никакой новой ценности Интернету. Использование чат-ботов в личных целях совершенно нормально. Но использовать их для написания своих статей, новостей, постов в социальных сетях, веб-копий и многого другого, вероятно, очень плохая идея. Проверять Веские причины, по которым ChatGPT не берет вас на работу по написанию контента.

Чат-боты с искусственным интеллектом — это весело, но у них все еще есть некоторые недостатки.

Трудно сказать, как чат-боты с искусственным интеллектом повлияют на технологическую отрасль и современное общество в целом. Какой бы революционной ни была технология, чат-боты создают множество проблем, которые необходимо решить.

Интересно то, что Microsoft сейчас интегрирует чат-бота, похожего на ChatGPT, непосредственно в свою поисковую систему Bing, а Google вскоре сделает то же самое со своим собственным чат-ботом под названием Bard. Будет интересно посмотреть, как новые поисковые системы на основе искусственного интеллекта изменят Интернет. Вы можете просмотреть сейчас Как этично создавать и использовать искусство на основе ИИ.

ДзТех

Я государственный инженер с большим опытом работы в области программирования, создания веб-сайтов, SEO и технического написания. Я увлечен технологиями и посвящаю себя предоставлению качественной информации общественности. Я могу стать более ценным ресурсом для пользователей, которые ищут точную и достоверную информацию об обзорах продуктов и специализированных приложениях в различных областях. Моя непоколебимая приверженность качеству и точности гарантирует, что предоставляемая информация заслуживает доверия и полезна для аудитории. Постоянное стремление к знаниям заставляет меня идти в ногу с новейшими технологическими разработками, гарантируя, что общие идеи будут передаваться в ясной и доступной форме.
Перейти к верхней кнопке