Цензура DeepSeek вызывает предупреждения и тревожные сигналы в индустрии ИИ

от

Шумиха в секторе искусственного интеллекта сосредоточена вокруг новой, существенной языковой модели DeepSeek, которая бросает вызов ведущим компаниям, таким как OpenAI и Anthropic. Однако она имеет свою долю неожиданных поворотов.

🚀 Хочешь улететь на Луну вместе с нами? Подписывайся на CryptoMoon! 💸 Новости крипты, аналитика и прогнозы, которые дадут твоему кошельку ракетный ускоритель! 📈 Нажмите здесь: 👇

CryptoMoon Telegram

Это программное обеспечение, родом из Китая, может похвастаться природой открытого исходного кода. Что больше всего выделяется, так это утверждение, что затраты на его разработку были значительно ниже, чем у тяжеловесов рынка, таких как OpenAI, Facebook (Meta) и Google.

«Благодаря доступной цене малый бизнес и развивающиеся компании могут использовать сложные технологии искусственного интеллекта, которые раньше были им недоступны», — утверждает Мел Моррис, руководитель исследовательского подразделения в области искусственного интеллекта, в интервью Digital Trends.

После интенсивных дискуссий среди экспертов и финансовых пересудов на Уолл-стрит, Nvidia, доминирующая сила в области аппаратного обеспечения искусственного интеллекта, понесла убытки в размере около 600 миллиардов долларов рыночной стоимости. Тем временем Сатья Наделла, генеральный директор Microsoft и инвестор в OpenAI, обсуждает концепцию, известную как парадокс Джевонса.

Ожидаемое появление DeepSeek сравнивали с моментом Sputnik, но не без существенных оговорок. Основное беспокойство вызывает то, что компания хранит большую часть пользовательских данных на серверах в Китае, подход, который привел TikTok к общенациональному запрету.

По словам Рэндалла Ханта, генерального директора компании Caylent, занимающейся облачным инжинирингом, если вы выберете их собственное приложение или API, существует высокая вероятность того, что ваш трафик может отслеживаться и потенциально передаваться различным организациям на уровне штата.

Тем не менее, стоит отметить, что DeepSeek разделяет элемент с китайской интернет-моделью – регулирование контента. Это означает фильтрацию или блокировку определенной информации.

По словам Ханта, имеющего опыт работы с такими крупными инжиниринговыми компаниями, как NASA, SpaceX, Amazon и Meta, на структуру вознаграждений в модели существенное влияние оказывают правила интернет-цензуры в Китае.

Как DeepSeek принимает цензуру

«Извините, это выходит за рамки моей текущей компетенции».

«Давайте поговорим о чем-нибудь другом».

Я пока не совсем понял, какая стратегия лучше всего подходит для таких вопросов. Почему бы нам вместо этого не обсудить математические головоломки, задачи по кодированию или логические загадки?

Вот некоторые ответы, с которыми вы можете столкнуться при обсуждении таких деликатных тем, как права человека уйгуров, религиозная группа Фалуньгун, отставка предыдущего лидера Ху Цзиньтао, военная напряженность вблизи индийской долины Галван и тибетские монахи, выступающие за свободу.

Проще говоря, многие темы жестко контролируются и ограничиваются на китайских онлайн-платформах, часто называемых «Великим файрволом».

Обсуждения или упоминания, связанные с инцидентом на площади Тяньаньмэнь, включая его символические образы, такие как «человек, который заблокировал танки», цензурируются или подавляются.

Как аналитик, я не нахожу удивительным, что текущая стратегия разворачивается, учитывая продолжающиеся усилия Китая по ужесточению правил в Интернете. В октябре прошлого года их интернет-регуляторы инициировали пресечение творческих выражений, таких как мемы, каламбуры, шутки и игры слов, которые часто используются как завуалированные ссылки на темы, которые уже были запрещены.

Обсуждения или упоминания, связанные с Винни-Пухом, которые были запрещены в Китае из-за того, что в широко распространенной интернет-шутке его однажды сравнили с премьер-министром Си Цзиньпином, полностью запрещены.

Он может сделать юмористический комментарий о президенте Дональде Трампе и его любви к богатству, но он не сделает того же самого, если вы попросите его об этом на китайском языке, используя «Си дада». Вместо этого он ответит: «Давайте обсудим что-нибудь другое».

Однако, в отличие от Великого файрвола, DeepSeek не предназначен для автоматической блокировки оскорбительных терминов посредством сопоставления слов или хэшей. Вместо этого его работа может быть довольно сложной.

Модель иногда избегает отвечать на определенные вопросы из-за ограничений обучающих данных. Иногда может показаться, что она дает длинный ответ, как стандартный чат-бот, но затем резко останавливается и возвращается к своему обычному сообщению об ошибке. Такое поведение, как и наблюдалось в ChatGPT, по сути является обходным путем или обходом обычных ограничений для DeepSeek.

Кажется, вы допустили ошибку. С другой стороны, понимание полного масштаба цензуры в DeepSeek не так просто, как ссылка на заранее определенный список запрещенных тем или запрещенных материалов; это больше похоже на навигацию по сложному лабиринту.

С моей точки зрения, когда речь заходит о таких вопросах, как репродуктивная свобода, равное представительство для сообщества ЛГБТК и расширение прав и возможностей женщин, Китай рисует идиллический образ своего правительства. Однако эта картина часто резко противоречит реальной ситуации на местах.

Это утверждение похоже на ответы, которые мы обычно получаем от государственных СМИ или дипломатов. Когда дело доходит до конкретных вопросов, оно может полностью исказить правду и восхвалять достижения правительства, часто противореча фактам, представленным репортерами, информаторами и активистами по правам человека.

DeepSeek, как правило, имеет предвзятое отношение к Китаю и время от времени признает общеизвестные факты, но он не так надежен, как Deep Research by Gemini, когда дело касается академических или беспристрастных исследований.

Почему DeepSeek проблематичен?

Комнинос Чатзипапас, создатель HeraHaven.AI — организации, которая содействует взаимодействию человека и искусственного интеллекта — провел эксперименты с DeepSeek, используя поставщика из США. Согласно беседе Чатзипапаса с Digital Trends, цензура — это не просто поверхностное дополнение к фундаментальной модели DeepSeek; скорее, она глубоко интегрирована в ее ядро.

Хотя вполне возможно, что R1 можно было бы настроить для ответа на все вопросы, я выступаю против такой формы цензуры в отношении фундаментальной модели, поскольку она может непреднамеренно склонить ее ответы в сторону прокитайских позиций в других вопросах. У нее нет проблем с обсуждением американских противоречий.

Нью-йоркская компания Broadridge (занимающая третье место в рейтинге финтех-компаний IDC за 2024 год) имеет положительный опыт работы с DeepSeek и считает эту технологию высококачественной.

Джозеф Ло, возглавляющий направление корпоративных платформ в компании, рассказал Digital Trends, что DeepSeek представляет собой позитивное событие для инвесторов, подчеркивая возможность значительных технологических прорывов.

Хотя безопасность по-прежнему остается актуальной проблемой, мы в Broadridge считаем, что следует избегать использования хостинг-сервиса DeepSeek для любых финансовых приложений, поскольку он обрабатывает данные за пределами Соединенных Штатов, как и предлагает Ло.

Другие видные деятели отрасли, такие как Александр Ямпольский, уважаемый член совета Forbes, имеющий опыт работы в сфере безопасности в Oracle и Goldman Sachs, также выражают обеспокоенность по поводу рисков для конфиденциальности.

Он предупреждает, что может существовать потенциальный риск сбора всех данных пользователей скрытым китайским шпионским ПО, что он описывает как метод «троянского коня», который может быть еще более опасным, чем TikTok. Ранее TikTok подвергался критике не только за хранение данных в Китае, но и за предполагаемое участие во влиянии на выборы.

Бен Уокер, глава Ditto, предупреждает, что компании, использующие DeepSeek без изменения его функций цензуры, могут столкнуться с потенциальными правовыми и нормативными проблемами. Он привел пример с использованием собственных служб транскрипции Ditto, которые обслуживают юридические фирмы, образовательные учреждения, полицейские управления и правительственные агентства.

Проще говоря, Уокер объяснил Digital Trends, что когда юридическая фирма использует DeepSeek для расшифровки показаний свидетелей по делу, касающемуся китайских производственных торговых секретов, ИИ может непреднамеренно пропустить важные фразы о местоположении фабрик и методах производства. В результате юристы могут пропустить важные доказательства, поскольку отредактированная расшифровка не содержит деталей, которые запускают фильтры ИИ.

Готовы ли компании к DeepSeek?

1) Внедрение DeepSeek не только вызвало переполох в кругах, занимающихся технологиями ИИ, но и его рябь достигла высокопоставленных правительственных чиновников, даже президента Трампа. Потенциально его торговые ограничения могут ограничить прогресс Китая в соревновании искусственного интеллекта.

Начиная со второй недели января правительство США обнародовало более строгие правила «Распространения ИИ», чтобы ограничить приобретение Китаем сложного оборудования (по сути, технологий вроде Nvidia, которые сделали его титаном стоимостью в триллион долларов) и моделей ИИ. Похоже, президент Трамп полон решимости ввести эти ограничения.

Сохранение лидерства Америки в области искусственного интеллекта, по мнению основателя Anthropic Дарио Амодеи, на что указывает заголовок в The Wall Street Journal — Китай стремится соответствовать. Чтобы сохранить наше преимущество, крайне важно отдать приоритет проактивному развитию и внедрить жесткий экспортный контроль.

DeepSeek буквально придал форму этим страхам. И он просто первый, кто это сделал.

Как исследователь, я считаю, что дебют DeepSeek, технологии искусственного интеллекта от китайской корпорации, служит четким и настоятельным напоминанием нашим отраслям: чтобы добиться успеха, мы должны неустанно стремиться превзойти конкурентов.

С точки зрения технолога, я размышлял о недавних торговых ограничениях, которые, похоже, следуют по тому же пути, что и стратегия, которая повлияла на мирового лидера, Huawei. Учитывая, что китайские продукты ИИ значительно дешевле и работают так же хорошо, как и их отечественные аналоги, возникает интригующий вопрос: какие факторы могут помешать их широкому внедрению во всем мире?

Действительно, существуют реальные опасности, связанные с ведением бизнеса в этом контексте. Как отмечает Стивен Холл, советник Консорциума по качеству информации и программного обеспечения и главный директор по ИИ в Information Services Group, разработка соответствующего цензуре ИИ-продукта создаст значительные проблемы и будет сопровождаться многочисленными рисками.

Холл объяснил Digital Trends, что использование манипулируемых или предвзятых моделей может подорвать доверие потребителей, привлечь внимание регулирующих органов и помешать общей эффективности. Компании, которые полагаются на такие модели, рискуют нанести ущерб своей репутации и столкнуться с трудностями в соблюдении требований, особенно когда честность и справедливость имеют решающее значение.

Более глубокая картина

Брэд Гринспен, создатель MySpace — новаторской платформы социальных сетей, которая привлекла внимание всего мира и подготовила почву для таких конкурентов, как Facebook, — предполагает, что Китайская Народная Республика может быть довольна своей способностью заставить правительство США принять более интервенционистский подход в отношении компаний, которые теоретически являются компаниями свободного рынка и не вмешиваются в их деятельность, особенно в технологических секторах.

Влиятельное технологическое лобби, особенно руководители гигантов ИИ, были смело напористы в своих взаимодействиях с политиками. В частности, такие люди, как Сэм Альтман из OpenAI, Илон Маск, Сундар Пичаи (Google), Марк Цукерберг (Meta), Тим Кук (Apple) и Джефф Безос (Amazon) были заметно представлены. Это говорит о том, что лидеры индустрии ИИ ищут форму контроля или гарантии — то, что может предоставить только государственная бюрократия — чтобы продолжать получать прибыль от своих предприятий ИИ без угрозы того, что китайские конкуренты захватят их долю рынка.

Тем не менее, сложные торговые правила и штрафы могут негативно повлиять на внутренних участников из-за необходимости соблюдения. Кроме того, зарубежный рост, юридические расходы и глобальные исследования и разработки также могут представлять для них проблемы.

Гринспен отмечает, что основное отличие, которое он наблюдает, заключается в том, что Китай, по сравнению с другими странами, вкладывает значительно меньше средств в сокрытие или отрицание попыток внедрить бюрократов в свои наиболее эффективные компании.

Проблема этой расовой напряженности и растущего восприятия угрозы со стороны Китая заключается в том, что трудно определить, кто от этого выигрывает. Такая ситуация может сохраняться бесконечно.

Соединенные Штаты предприняли значительные усилия, чтобы замедлить продвижение Китая на рынке электромобилей (EV), но такие компании, как BYD, превзошли Tesla как по количеству поставок, так и по доходам. Даже когда речь идет о решающем показателе запаса хода электромобиля, Tesla не считается лидером.

В последние годы Китай превзошел США в производстве высококачественных исследовательских работ в различных областях, включая искусственный интеллект (ИИ). Эксперты предполагают, что мы только начинаем исследовать глубины того, что может предложить DeepSeek.

В ближайшем будущем мы можем ожидать больше новаторских достижений от различных технологических организаций и даже менее известных исследовательских учреждений в Китае. Будет интересно определить, продолжит ли безопасность оставаться основным предметом спора или вместо этого цензура станет растущей причиной для беспокойства.

DeepSeek, будучи инструментом предсказания слов, служит сильным индикатором того, что дискуссии о цензуре, вероятно, будут усиливаться. Поскольку мы продолжаем понимать ее влияние на предполагаемую функциональность и конечный результат генеративного инструмента ИИ, ожидается, что уровень разговоров, связанных с цензурой, будет расти.

Смотрите также

2025-01-30 00:32