ИИ - безопасное будущее или угроза?
28 апр 2023 11:40 #113290
от ICT
ICT создал тему: ИИ - безопасное будущее или угроза?
Тема безопасности искусственного интеллекта занимает людей уже десятилетия: над ней размышляют как ученые, так и обыватели. Единой точки зрения общество не сформировало - кто-то опирается в своих рассуждениях в большей степени на возможности ИИ, а кто-то готов отказаться от столь стремительного развития технологий в угоду базовой безопасности. Главный же вопрос состоит не только в том, представляет ли ИИ угрозу, но и в том, как обезопасить себя от этой угрозы, если она не является мнимой, убежден основатель компании RuCode Илья Коробейников (написано совместно с ChatGPT). Прежде всего, обозначу, что я с командой занимаюсь разработкой в области ИИ с 2019 года. За это время мы реализовали несколько успешных проектов. Один - из области анализа и прогнозирования на основе больших медицинских данных, этот проект стал финалистом отбора "Агентства стратегических инициатив". Второй - направлен на распознавание автотранспорта по фото на основе машинного зрения. Однако, несмотря на наличие собственного мнения по поводу наличия или отсутствия угрозы для человечества со стороны ИИ, эту статью я предпочитаю написать совместно с ChatGPT, чтобы сравнить мое и его мнение. Представляет ли ИИ угрозу для человека? Согласно исследованиям ВЦИОМ более половины россиян (55%) доверяют технологиям ИИ. Я же отношусь к меньшей части и считаю, что ИИ представляет угрозу для человека, а точнее для разных людей ИИ представляют разную угрозу. И чем дальше развивается эта технология, тем более очевидным становится, на мой взгляд, этот тезис. Технологии ИИ появились давно: еще в 1943 году были описаны принципы работы нейросетей. Но, благодаря большому количеству данных и вычислительным мощностям, в нашу жизнь они вошли относительно недавно. Большие данные в совокупности с современными вычислительными мощностями позволяют проводить так называемое глубокое обучение (Deep Learning), во многом благодаря которому нейросети стали такими умными. Специалисты из этой области не любят термин ИИ за его киношность и неконкретность, а используют более конкретные термины: ML (Machine Learning - машинное обучение), Deep Learning, Big Data (большие данные), Data Science (наука о данных) и, конечно, просто нейросети. Сейчас все гадают что произойдет, когда технологии ИИ войдут в нашу жизнь, все ждут некого прообраза SkyNet из фильма, но ИИ уже повсюду и не том виде, в котором большинство его ждали - они подобрались к нам сбоку. Нейросети уже используются:
- в видеонаблюдении в метро для распознавания лиц,
- камерах контроля скорости на дорогах для распознавания марки и номера машины,
- в телефонах когда фотоаппарат подсвечивает лица "квадратиками" и делает автофокус,
- в соцсетях когда мы видим рекламу, которую нам подбирает ИИ.
- Количество нейронов и входных параметров в разных моделях может исчисляться миллионами. Так например, в выложенной в открытый доступ уменьшенной версии GPT-2 насчитывается 117 млн. параметров.
- Количество данных во время обучения и использования также огромно.
-
В некоторых специальностях они уже заменяют человека и будут делать это всё больше за счет скорости и качества. В наибольшей зоне риска - ассистенты и менеджеры среднего звена. Кроме того, в ближайшем будущем нейросети научиться программировать "под ключ". Технические писатели (аналитики, архитекторы) будут писать на человеческом языке, что должна делать программа, а нейросеть будет выдавать готовый код/программу на любом нужном языке программирования. И специальность кодера (программиста низкого уровня) будет мало востребована. Для этого сейчас уже есть всё, вопрос только во времени распространения и допиливания этих технологий. Ярким примером этого направления является ChatGPT, но он далеко не единственный.
- За счет того, что ИИ находят закономерности там, где обычный человек не может, ИИ могут стать эффективным инструментом в руках "плохих" людей. Также считает большинство опрошенных ВЦИОМ россиян, которые считают что угроза ИИ заключается в корыстных целях использования (61% респондентов) и мошеннических действиях с их использованием (62%).
- Нейросети по косвенным признакам, в некоторые моменты, знают нас лучше чем мы сами себя. Это многих пугает. В Facebook есть такое понятие как "Цифровой аватар пользователя" - это ваша зеркальная копия, основанная на вашем поведении в соцсети.
- сокращение временных затрат на выполнение рутинной и однообразной работы (65% опрошенных согласились с этим),
- повышение производительности труда (65%),
- облегчение решения сложных задач (58%),
- повышение комфортности жизни (58%),
- повышение уровня безопасности (57%).
- повышена геополитическая конкуренция,
- доступны большие данные,
- в открытом доступе есть большинство архитектур нейросетей,
- есть доступ к большим вычислительным мощностям,
- разработка моделей нейросетей и их первичное обучение,
- дообучение готовых моделей для какого-то промышленного применения.
- дообучение нейросетей для конкретных применений в разных областях,
- комбинирование моделей - создание комплексных решений,
- создание новых вычислительных микросхем специально для ИИ, где память и вычисления находятся в одном чипе по аналогии с биологическими нейросетями, поскольку они быстрее и энергоэффективнее,
- создание рынка изготовления и продажи готовых датасетов, так как данные - это новая нефть, у которой есть свой рынок и свои биржи,
- применение ИИ в военном деле с последующим переносом в гражданскую отрасль: дроны, анализ прослушки и шифрования, стратегия и моделирование, анализ спутниковых снимков и т.п.
- переобучения людей;
- формирования для людей безусловного базового дохода.
Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.
Похожие статьи
Тема | Релевантность | Дата |
---|---|---|
Безопасное селфи | 9.33 | Вторник, 07 июля 2015 |
"Для нас отечественное — значит надежное и безопасное" | 9.12 | Среда, 11 января 2023 |
"Для нас отечественное - значит надежное и безопасное" | 9.12 | Четверг, 12 января 2023 |
Microsoft и InfoWatch обеспечат безопасное использования облачных сервисов | 8.83 | Четверг, 07 июня 2018 |
DNP и Gemalto предоставили безопасное подключение к интернету вещей для предприятий и потребителей | 8.74 | Среда, 10 августа 2016 |
Безопасное ускорение: зачем "РТК-Солар" запускает программу акселерации стартапов | 8.74 | Среда, 23 августа 2023 |
IIoT как угроза | 8.43 | Воскресенье, 20 декабря 2020 |
Угроза 5G сетям | 8.43 | Понедельник, 31 мая 2021 |
Рынок ВОК: угроза с Востока | 8.34 | Среда, 09 января 2019 |
Решение Gemalto позволит пользователям смарт-часов Samsung Gear S2 осуществлять безопасное подключение к сотовым сетям | 8.3 | Вторник, 06 октября 2015 |