Ждать ли жесткого регулирования нейросетей?
03 мая 2023 09:40 #113324
от ICT
ICT создал тему: Ждать ли жесткого регулирования нейросетей?
Samsung могла запретить сотрудникам пользоваться нейросетями. По данным СМИ, решение принято после возможной утечки фрагментов исходного кода через ChatGPT. Насколько в целом велики риски от использования ИИ? Сообщение о моратории на искусственный интеллект в офисах Samsung публикует
Bloomberg
. Согласно статье, сотрудникам южнокорейского гиганта нельзя будет пользоваться ChatGPT и аналогичными сервисами до тех пор, пока компания не создаст для этого "безопасную среду". Как утверждается, причиной стала утечка некоторых объемов "внутреннего исходного кода" через ChatGPT. Предположительно, сотрудники пользовались сервисом во время работы над ПО для анализа или поиска багов. Проблема в том, что компания OpenAI открыто предупреждает пользователей, что диалоги с ботом могут быть использованы для дальнейшего обучения нейросети. То есть теперь ChatGPT в теории может посоветовать код Samsung любому другому программисту. Комментирует IT-обозреватель "Российской газеты" Олег Капранов: Олег Капранов IT-обозреватель "Российской газеты": "Это не вопрос нейросетей, искусственного интеллекта, ChatGPT, а скорее вопрос обычной корпоративной безопасности: случай, который произошел в Samsung, — это история, когда сотрудник фактически слил ChatGPT часть служебного кода. В данном случае ChatGPT — это черная дыра, в которую просто вкидываются данные, и совершенно непонятно, как они будут дальше обработаны, кому они станут доступны и в каком виде. Для компаний, у которых есть коммерческие тайны, служебные разработки и так далее, это просто уязвимость безопасности. Сотрудник фактически сделал публичной закрытую служебную информацию". Одновременно тревоги по поводу нейросетей звучат со стороны Google. На этой неделе компанию покинул Джеффри Хинтон, которого
The New York Times
называет "крестным отцом искусственного интеллекта". Ученый заявил, что до недавнего времени IT-гигант был ответственным стражем на пути нейротехнологий, но с успехом профинансированных Microsoft проектов OpenAI ситуация изменилась. По мнению Хинтона, последствия бесконтрольного развития чат-ботов могут быть "довольно страшными", поскольку они могут превзойти людей по интеллекту и оказаться в "дурных руках". Можно ли на фоне заявлений очередной видной фигуры о рисках ИИ говорить о реакционной волне в ответ на нейрореволюцию? Ждать ли жесткого регулирования? Рассуждает гендиректор компании Dbrain и автор телеграм-канала AI Happens Алексей Хахунов: Алексей Хахунов, гендиректор компании Dbrain и автор телеграм-канала AI Happens: "Каким-то образом остановить разработки, которые в текущий момент есть в компаниях, просто физически невозможно. Даже если Штаты на следующие шесть месяцев закроют все разработки, связанные с генеративными сетями, во-первых, компании, которые находятся в других странах, не обязаны этому следовать. Например, AI Lab компании Google в текущий момент локализован в Великобритании. Опять же, есть компании в Китае, которые занимаются этим направлением. Непонятно, почему они тоже должны следовать этому запрету. В общем, на практике это невозможно. При этом какое-то регулирование в этой области точно требуется. Но есть ощущение, что Илон Маск и многие другие люди, выступающие за запрет, больше спекулируют, нежели реально поддерживают [ограничения]. Потому что Илон Маск примерно около месяца назад говорил, мол, давайте это все запрещать, а после создал новую компанию X.AI, которая занимается разработками в области генеративных сетей". Наиболее наглядно бытовые риски искусственного интеллекта иллюстрирует свежий журналистский эксперимент
The Wall Street Journal
. С помощью ряда бесплатных и платных сервисов репортеру издания удалось создать свой ИИ-аватар и не только обмануть свою сестру в безобидном телефонном разговоре о кончине аквариумной рыбки, но и пройти голосовую верификацию при обращении в банк. Хотя всесильным искусственный интеллект пока не назовешь: в обоих случаях, когда журналистка использовала не только сгенерированный голос, но и свой видеопортрет, собеседники сразу замечали подвох.
Ссылка на источник
Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.
Похожие статьи
Тема | Релевантность | Дата |
---|---|---|
Экосистемы избегут жесткого контроля государства | 9.3 | Четверг, 03 июня 2021 |
Google открыл облачное хранилище по цене жесткого диска | 9.1 | Среда, 11 марта 2015 |
Начались продажи самого большого в мире жесткого диска | 9.1 | Среда, 02 декабря 2015 |
Исследователи научились перехватывать данные с изолированных ПК по звуку жесткого диска | 9.01 | Пятница, 12 августа 2016 |
Обнаружен способ уничтожения жесткого диска с помощью встроенных в ПК колонок | 9.01 | Четверг, 31 мая 2018 |
5 важных кейсов применения нейросетей | 8.08 | Воскресенье, 23 июля 2023 |
Развитие нейросетей в России: возможности и угрозы | 7.99 | Среда, 22 мая 2024 |
«Яндекс» обновил поиск на основе глубоких нейросетей | 7.91 | Четверг, 10 июня 2021 |
«ВКонтакте» автоматически переведет публикации с помощью нейросетей | 7.91 | Понедельник, 25 октября 2021 |
Профессор предупредила об опасности для человечества от развития нейросетей | 7.91 | Вторник, 27 июня 2023 |