Среда, 24 июля 2024

ЦБ

$ 87.30

95.46

BRENT

$ 81.63

/

7126

RTS

1098.53

16+

+16

  • 07 апреля 2023 17:45
  • Новость

Новосибирский IT-эксперт Руслан Пермяков рассказал о рисках, связанных с нейросетями


Лента новостей

Искусственный интеллект стал одной из главных тем новостной повестки. Многие всерьез опасаются, что активное использование нейросетей начиная со школы, приведет к катастрофическим последствиям

фото с сайта ru.freepik.com

30% жителей России верят в то, что в ближайшие 50 лет технологии искусственного интеллекта (ИИ) могут выйти из-под контроля человека. Такие данные приводит ВЦИОМ.  Если еще несколько месяцев назад многим это казалось чем-то вроде новой игрушки, которая создает интересные картинки, то сейчас ситуация изменилась. Звучат довольно пугающие прогнозы, и люди всерьез обсуждают возможность «восстания машин». 

Известный эксперт в сфере IT-технологий, заместитель директора Центра компетенций НТИ «Технологии доверенного взаимодействия» Руслан Пермяков, специально для BFM-Новосибирск ответил на вопросы о новых рисках и возможностях, связанных с искусственным интеллектом. 

– Что можно сказать людям, которые считают в скором будущем возможно восстание машин? Стоит ли разубеждать и успокаивать?  

 –Прорыв в применении искусственного интеллекта, который мы сейчас наблюдаем, связан с тем, оцифровано много данных, и есть на чем учить нейросети. Потому и получаются такие классные вещи, как ChatGpt, сберовский генератор картинок и так далее. Но у нейросети есть одно принципиальное ограничение, и нельзя об этом забывать. Нейросеть это по большому счету великий классификатор, который выдает результат на основе ранее полученных данных.  

Фундаментальная проблема нейросети и всего искусственного интеллекта – они не умеют генерить чего-то нового. И поэтому бунта машин, захвата и всего прочего не будет, если мы не научим их это делать. И здесь мы утыкаемся в проблему этических норм разработчиков относительно того, чему же они учат. Если нейронные сети начать учить убивать, то да, они будут убивать. Сами они до этого додуматься не могут именно вследствие базовых ограничений. То есть мы по-прежнему находимся в том же мире, в котором жили и до нейросетей. В этом мире все хорошее и все плохое происходит по вине человека. Просто у нас появился мощный инструмент, который позволяет перемалывать данные.

Этот инструмент всем очень сильно нужен, потому что рост информационной нагрузки не сопоставим ни с какими предыдущими периодами в истории человечества. Я читал одну статью, авторы которой оценивали объемы информации. Так вот, современный человек получает за неделю больше информации, чем житель 18-го века за всю жизнь. Природа нас к этом не готовила, скажем честно. И в связи с этим у нас есть потребность в инструменте, который бы снизил эту нагрузку. 

фото pressfoto с сайта ru.freepik.com

 Что будет с системой образования, если нейросети пишут сочинения и курсовые?

Если смотреть на образование, как на систему которая готовит человека к жизни в новых условиях, то здесь все выглядит логично. Тот факт, что школьники и студенты получают пятерки за генерированные с помощью нейросети сочинения, курсовые, дипломные работы, наверное, это неплохо, потому задача-то была выполнена. Задача была показать, что он умеет достигать результата. С точки зрения инженерии вполне достойное решение. Эту часть надо осмысливать вместе с преподавательским составом. 

С моей точки зрения, нет принципиального различия между справочником, который дает разрозненную информацию, и которым ты умеешь пользоваться, и ChatGpt, дающим уже структурированную информацию. Я пробовал давать задания указанной нейросети, и могу сказать, не все, что она выдает, пригодно к использованию. Эти тексты надо вычитывать, анализировать, править. И те же школьники это делают, то есть работают.    

Поэтому, думаю, здесь стоит преподавательскому составу, сообществу работодателей, да и в целом обществу договариваться. Всем надо будет ответить на вопросы, готовы ли они работать с такими людьми, которые эффективно ищут решение в интернете с помощью искусственного интеллекта. Такие студенты, работники даже не будут осознавать до конца, как всё это устроено и работает, но они будут выполнять формальные требования. 

фото drobotean с сайта ru.freepik.com

В современном мире, где плотность информационного потока просто катастрофическая, уметь ориентироваться в этом информационном потоке, станет, похоже, главной компетенцией в будущем. Человек, который будет обладать этой компетенцией, будет успешным и сверхуспешным. От детей ведь хотят этого, на это их ориентируют. Поэтому говорить «а давайте заберем у них гаджеты» это не выдерживает критики. Нельзя в современном мире не уметь пользоваться гаджетом. Детям надо дружить с современной техникой, надо воспитывать их правильное отношение к компьютеру как к инструменту. И то же самое с искусственным интеллектом: если это повышает эффективность работника, эксперта, то, конечно, надо этим им пользоваться. 

– Еще одна из тем, которая активно обсуждается в связи с активным использованием нейросетей, это всеобщая деградация и даже закат цивилизации. Как к этим прогнозам стоит относиться? 

Я не из тех, кто рисует будущее мрачными красками. Мы, обсуждая эту тему с философами, договорились до следующей картинки. Представьте: время до VIII века на Руси. Только-только появляются первые письменные документы. И местный клуб «экспертов – сказителей передававших легенды «из уст в уста», обсуждают падение компетенций молодежи в связи с новомодным явлением «письменность». Сказители считают, что в результате отроки не могут запомнить жалкие 300-400 строк с первого раза. Они уверены, что неизбежна деградация человечества из-за этих гаджетов: писало и береста. И обсуждают вопрос: а можно ли отрока, который читает летопись с бересты считать умеющим запоминать что-либо. 

Так что, повторю, искусственный интеллект это всего лишь эффективный инструмент. Серьезного обсуждения заслуживает лишь вопрос, в чьих он руках и для каких целей используется. 

 Ранее BFM-Новосибирск писал о том, как школьник получил 5/5 за сочинение, написанное нейросетью. Также мы рассказали о зарплатах, которые предлагают сотрудникам, работающим с нейросетями

поделиться

поделиться


Популярное