Большой вопрос: готовы ли мы к этой войне?
В критических ситуациях люди ведут себя адекватнее искусственного интеллекта. А еще цифровой разум никогда не заменит творчество.
В эти дни все большую актуальность обретает тема искусственного интеллекта. Кому не стоит впадать в депрессию из-за нового мощного конкурента, как нейтрализовать оружие, которое мы сами и создали, и к чему быть готовыми в условиях новой цифровой реальности?
Об этом в книге «Как оседлать единорога?» рассуждает руководитель Центра анализа и расследования кибератак Олжас Сатиев (ЦАРКА). Новый труд рассказывает о подрывных инновациях, глобальных трендах, рисках и окне возможностей для Казахстана, передает «Голос народа».
Мы спросили Олжаса о плюсах и минусах применения ИИ в нашей жизни, рисках и их минимизации. Способен ли этот разум заменить министров, акимов, адвокатов, судей, прокуроров и прочих. И как быть тем, кто еще не разобрался в вопросе, что делать в случае нашествия машин.
Эксперт отметил, что все разговоры о том, что ИИ уже вытесняет рабочие руки на рынке труда, это больше хайп.
«В целом все идет к тому, что, скорее всего, система machine learning (машинного обучения), ИИ и т.п., будут заменять некоторые профессии. Сейчас это уже актуально в сферах создания контента и маркетинга, когда зачастую нужно изучить различные источники и написать по ним материал. Многие начали использовать чат GPT для этих целей. Маркетологи используют ИИ для генерации контента», - констатирует Сатиев.
По его мнению, ИИ будет заменять часть работы там, где все зарегламентировано, это области юриспруденции, бухгалтерии.
«То есть те области, где не нужно креатива, а нужно по шаблону делать какие-то рутинные вещи. Также ИИ начинает помогать в части программирования. Есть много случаев, когда ему дают написать код, и он с этой задачей хорошо справляется. Но, в любом случае, во всех кейсах нужен человек, который все это будет курировать», - подчеркивает киберэксперт. То есть цифровой разум не вытесняет рабочие руки, а порождает необходимость в новых кадрах - операторов ИИ.
Весь мир идет к цифровой революции. Если собирать достоверные статданные и в режиме реального времени получать всю информацию, то в принципе ИИ будет проще принять решение. Но нужно учесть, что делает он это на основе математических моделей и на основе того, что выгодно, подчеркивеат собеседник.
А ведь зачастую нужно принимать решения не потому, что выгодно, а, скажем так, по-человечески. В этом контексте, даже если в государственную систему внедрить ИИ, который будет принимать решения, все равно будут нужны чиновники, депутаты, которые будут ставить точку в том или ином вопросе», - отмечает собеседник.
Эксперт по кибербезопасности, ведущий канала «Кибердед» Андрей Масалович в свою очередь заострил внимание на том, что искусственный интеллект на английском - artificial intelligence.
«Что, вообще-то, переводится как поддельный разум. Смысл уже не такой позитивный. Заменитель человеческого разума не может решать творческих задач, и в этом кроется суть его использования. Там, где человек имитирует интеллектуальную работу, клепает похожие судебные решения или письма, там ИИ сработает супер», - говорит эксперт.
А всю работу ИИ, которая касается здоровья и жизни человека, необходимо перепроверять многократно, подчеркивает он.
«Алгоритмы ИИ - это механизмы генеративно-состязательных нейросетей и сетей трансформеров. Это дьявольски красивые имитаторы: пока им все понятно, пока они распознают данные и улавливают условия, то делают классные выводы и дают такой же результат, обобщения, - то, что нам кажется творчеством», - говорит Масалович.
Если показать ИИ примеры работы хорошего фотошопа, он из обычной фотографии сделает шедевр.
«Но при этом ИИ не понимает, что у человека 5 пальцев, а не 6. Если этот разум посчитает уместным пририсовать 6-й палец, он его пририсует или, наоборот, не дорисует, если ему покажется, что три пальца выглядят красивее пяти.
По факту ИИ заменит кучу народа, который причисляет себя к представителям творческих профессий, а на самом деле занимается имитацией, ремеслом. Например, диктор новостей: подбирать новости, сортировать их и пересказывать красивым голосом, делая это под аватаркой, выглядящей как живой человек, - с этими задачами ИИ справится на 5 с плюсом. Такие ведущие уже выходят на экраны», - рассказывает киберэксперт.
Кстати, так же отлично, по оценке специалиста, ИИ справится с работой обозревателя финансового рынка.
«Существуют виды элементарного анализа, на которые можно натренировать сеть, и она будет давать анализ с уверенным видом - не хуже финансовых аналитиков зачитывать, что сегодня происходит на бирже, и что из этого может следовать», - продолжает Андрей.
Он подчеркивает: ИИ - это ни в коем случае не имитация человеческого мозга, процесса мышления.
«Это что-то другое. И в сходных незнакомых ситуациях человек реагирует адекватнее, более безопасно. 5 лет назад подряд разбились два «Боинга». По одной и той же схеме: на взлете работали программы автопилота, и простые виды нейросетей начинали подбирать угол крена. Программе казалось, что самолет «задрал» нос, и она начинала клевать этим носом.
Пилоты видели, что происходит, пытались штурвалом вытянуть управление, а нейросеть все равно направляла самолеты носом в землю. Они потерпели крушение…», - рассказывает Андрей.
База данных инцидентов, связанных с нейросетями, содержит 500 примеров, когда ИИ приводил к гибели и увечьям людей.
«Цифровой разум развивать надо, примерно в трети случаев его надо применять, в трети случаев – доработать, а в трети случаев надо, чтобы человек очень внимательно за ним следил», - считает киберэксперт.
Еще один прогноз от специалиста – до военного применения ИИ осталось полшага.
«Уже 5 лет существуют системы, которые могут сами определять, выявлять цели, проводить доразведку, нацеливаться. Единственное – пока они еще переспрашивают, стрелять или не стрелять – приказ дает человек.
Если поменять одну строчку кода, система будет стрелять сама. И это будет новая война, новая планета, к которой мы не готовы», - делится киберэксперт.
Поэтому, на его взгляд, нужно законодательно запрещать и убирать любые нейросети, которые могут использоваться как оружие.
А что же делать всем обеспокоенным нашествием машин людям?
Олжас Сатиев рекомендует адаптироваться и изучать новые технологии, становиться теми же операторами ИИ, то есть, не бояться этого «единорога», а познакомиться с ним поближе, и начать использовать в своих целях.
«Это эволюционный процесс. Машины на заводах в свое время тоже заменили ручной труд, открыли много новых профессий. Так и сейчас появится масса новых специальностей вокруг индустрии ИИ», - говорит эксперт.
Андрей Масалович предлагает поставить себя на шаг в будущее.
«Если начался тренд на беспилотные комбайны, комбайнерам не надо впадать в депрессию, а нужно идти в наладчики этих самих беспилотных машин. Зарплата будет высокая, командировки, - жизнь станет интереснее. Если чувствуешь, что ты не Рафаэль и талантом не прокормишься, иди в фотографы.
Нужно понять, что на что заменится, и туда вырулить. Питаешь любовь к лошадям - иди в наездники, их ИИ не заменит.
Так что я не вижу личных и массовых трагедий в свете прихода в нашу жизнь нейросетей. Не бойтесь новизны, не ждите, что все вернется к старому миру и тем более не пытайтесь его сохранить. По-прежнему уже точно не будет, но у вас есть все возможности жить в новом мире», - заключил киберэксперт.
