Компании из России оценили опасения Маска и Возняка из-за ChatGPT
30 март 2023 09:40 #113087
от ICT
ICT создал тему: Компании из России оценили опасения Маска и Возняка из-за ChatGPT
Развитие ИИ не стоит останавливать, но следует ограничить его правилами и этическим сводом, считают опрошенные РБК топ-менеджеры российских ИТ-компаний. Ранее приостановить тренировки систем мощнее GPT-4 призвали Маск и Возняк.
Для мощного искусственного интеллекта (Artificial intelligence, AI) необходимо разработать регулирование и этические правила, вместе с тем скорость его замещения людей определенных профессий сильно переоценена. Об этом заявил РБК старший вице-президент по инновациям фонда "Сколково" Кирилл Каем, комментируя открытое письмо основателей технологических компаний с призывом приостановить обучение ИИ. "Разумеется, все эти краеугольные изменения потребуют изменения как регулирования разработок, внедрения, правил использования AI, так и принятие определенного свода этических вопросов. Возможно, авторитеты, подписавшие открытое письмо, хотят дать первый и сильный толчок таким изменениям", — сказал Каем. По его мнению, в дальнейшем принимать и изменять правила нужно будет постоянно, чтобы они успевали за прогрессом и новыми возможностями ИИ. Каем согласился с авторами письма в том, что искусственный интеллект поменяет рынок труда, но скорость этого замещения сейчас значительно переоценена. "Это не один десяток лет. Во-вторых, это изменение сфокусирует рынок труда на других профессиях, где AI пока не силен: творческие специальности или специальности, которые требуют большого вовлечения, эмпатии — медицинская помощь в части ухода и общения с пациентами, образование, часть индустрии развлечений", — заявил он. На стыке ИИ — человек, возникнет ряд новых специальностей, связанных с обучением, контролем и принятием ответственных решений, допустил он. Каем считает, что во многих отраслях ИИ останется помощником, будет анализировать большие объемы данных, предлагать сценарии, рассчитывать вероятности, но конечное решение будет оставаться за человеком. Технический директор Smart Engines (разрабатывает программное обеспечение для распознавания документов) Дмитрий Николаев считает, что властям следовало бы ограничить исследования ИИ с целью защиты базовых прав людей, "ввести понятные правила, которые запретят вредоносное использование ИИ". Он отметил, что при использовании искусственного интеллекта отсутствует законодательная база на запрет их применения в мошеннических целях, "проведение психологических атак на людей". Кроме того, продолжил Николаев, хаотичное развитие ИИ несет прямой экологический ущерб, поскольку на обучение моделей расходуются мегаватты электроэнергии. При этом, подчеркнул Николаев, пауза в обучении мощного ИИ на полгода, которую предлагают авторы письма, ничего не изменит, поскольку остановить прогресс невозможно. Руководитель департамента машинного обучения дирекции по ИИ и цифровым продуктам "ВымпелКома" (работает под брендом "Билайн") Дмитрий Ермилов призвал думать не об остановке развития искусственного интеллекта, а об ограничении использования таких систем. "То есть не предоставлять открытый доступ всем желающим к таким инструментам, а давать его, например компаниям для промышленного использования. Такой такой барьер позволит оградить общество от многих рисков, которые возникают при работе обычных пользователей с нейросетями", — отметил Ермилов. Ранее на сайте Future of Life появилось открытое письмо, которое подписали более 1 тыс. человек, в том числе основатель Tesla Илон Маск, сооснователь Pinterest Эван Шарп и сооснователь Apple Стив Возняк. Они призвали прекратить хотя бы на шесть месяцев тренировки систем мощнее GPT-4. Подписанты указали, что системы ИИ с интеллектом, сопоставимым с человеческим, могут представлять опасность для общества и задались вопросом, должны ли люди "рисковать потерей контроля над цивилизацией". Ссылка на источник
Для мощного искусственного интеллекта (Artificial intelligence, AI) необходимо разработать регулирование и этические правила, вместе с тем скорость его замещения людей определенных профессий сильно переоценена. Об этом заявил РБК старший вице-президент по инновациям фонда "Сколково" Кирилл Каем, комментируя открытое письмо основателей технологических компаний с призывом приостановить обучение ИИ. "Разумеется, все эти краеугольные изменения потребуют изменения как регулирования разработок, внедрения, правил использования AI, так и принятие определенного свода этических вопросов. Возможно, авторитеты, подписавшие открытое письмо, хотят дать первый и сильный толчок таким изменениям", — сказал Каем. По его мнению, в дальнейшем принимать и изменять правила нужно будет постоянно, чтобы они успевали за прогрессом и новыми возможностями ИИ. Каем согласился с авторами письма в том, что искусственный интеллект поменяет рынок труда, но скорость этого замещения сейчас значительно переоценена. "Это не один десяток лет. Во-вторых, это изменение сфокусирует рынок труда на других профессиях, где AI пока не силен: творческие специальности или специальности, которые требуют большого вовлечения, эмпатии — медицинская помощь в части ухода и общения с пациентами, образование, часть индустрии развлечений", — заявил он. На стыке ИИ — человек, возникнет ряд новых специальностей, связанных с обучением, контролем и принятием ответственных решений, допустил он. Каем считает, что во многих отраслях ИИ останется помощником, будет анализировать большие объемы данных, предлагать сценарии, рассчитывать вероятности, но конечное решение будет оставаться за человеком. Технический директор Smart Engines (разрабатывает программное обеспечение для распознавания документов) Дмитрий Николаев считает, что властям следовало бы ограничить исследования ИИ с целью защиты базовых прав людей, "ввести понятные правила, которые запретят вредоносное использование ИИ". Он отметил, что при использовании искусственного интеллекта отсутствует законодательная база на запрет их применения в мошеннических целях, "проведение психологических атак на людей". Кроме того, продолжил Николаев, хаотичное развитие ИИ несет прямой экологический ущерб, поскольку на обучение моделей расходуются мегаватты электроэнергии. При этом, подчеркнул Николаев, пауза в обучении мощного ИИ на полгода, которую предлагают авторы письма, ничего не изменит, поскольку остановить прогресс невозможно. Руководитель департамента машинного обучения дирекции по ИИ и цифровым продуктам "ВымпелКома" (работает под брендом "Билайн") Дмитрий Ермилов призвал думать не об остановке развития искусственного интеллекта, а об ограничении использования таких систем. "То есть не предоставлять открытый доступ всем желающим к таким инструментам, а давать его, например компаниям для промышленного использования. Такой такой барьер позволит оградить общество от многих рисков, которые возникают при работе обычных пользователей с нейросетями", — отметил Ермилов. Ранее на сайте Future of Life появилось открытое письмо, которое подписали более 1 тыс. человек, в том числе основатель Tesla Илон Маск, сооснователь Pinterest Эван Шарп и сооснователь Apple Стив Возняк. Они призвали прекратить хотя бы на шесть месяцев тренировки систем мощнее GPT-4. Подписанты указали, что системы ИИ с интеллектом, сопоставимым с человеческим, могут представлять опасность для общества и задались вопросом, должны ли люди "рисковать потерей контроля над цивилизацией". Ссылка на источник
Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.
Похожие статьи
Тема | Релевантность | Дата |
---|---|---|
Власти США разрешили компании Маска строить подземные тоннели | 11.49 | Пятница, 22 октября 2021 |
Сбросить Маска: частные космические компании займутся импортозамещением | 11.49 | Вторник, 08 марта 2022 |
Twitter изучает предложение Илона Маска о покупке компании | 11.49 | Понедельник, 25 апреля 2022 |
Против компании Элона Маска SolarCity выдвинут иск о краже улучшенной технологии солнечных панелей | 11.02 | Вторник, 27 сентября 2016 |
Компании оценили влияние искусственного интеллекта на финансовые показатели | 10.43 | Понедельник, 18 декабря 2023 |
Отнекивание Илона Маска и Дмитрия Пескова не изгнало Starlink из интернет-магазинов в России | 9.83 | Воскресенье, 18 февраля 2024 |
Гибридные облака вызывают опасения | 9.58 | Четверг, 23 июня 2022 |
Россияне оценили работу "Почты России" | 9.28 | Пятница, 31 января 2020 |
ChatGPT обрел голос | 9.23 | Четверг, 30 марта 2023 |
Рынок искусственного интеллекта в России оценили в 700 миллионов | 9.18 | Понедельник, 27 ноября 2017 |