Нейросети меняют нашу жизнь в режиме реального времени. Многие видят в них главный инструмент преображения мира в ближайшие годы, а кто-то – призывает пользоваться ими осторожнее. Как использовать нейросети во благо и чем может быть опасно их безответственное применение? 26 октября в рамках форума RBC.Tech состоялся public talk «Есть ли светлое будущее у нейросетей».
В разговоре приняли участие Александр Крайнов, директор по развитию технологий искусственного интеллекта ООО «Яндекс», Олег Рогов, старший научный сотрудник, руководитель научной группы «Доверенные и безопасные интеллектуальные системы» Института AIRI, и Яхья Ибрагимов, руководитель направления машинного обучения «Гринатом». В качестве модератора дискуссии выступил Кирилл Токарев, шеф-редактор, ведущий РБК ТВ.
Разговор начался с определения терминов. Что такое «машинное обучение» и «искусственный интеллект»? Спикеры представили свои варианты ответа.
Яхья Ибрагимов определил «машинное обучение» как набор алгоритмов. Нейросети, по словам Ибрагимова, это один из видов алгоритмов, который архитектурно схож со строением человеческого мозга и учится на примерах. Что и позволяет решать самые разные задачи.
Разговор начался с определения терминов. Что такое «машинное обучение» и «искусственный интеллект»? Спикеры представили свои варианты ответа.
Яхья Ибрагимов определил «машинное обучение» как набор алгоритмов. Нейросети, по словам Ибрагимова, это один из видов алгоритмов, который архитектурно схож со строением человеческого мозга и учится на примерах. Что и позволяет решать самые разные задачи.
«Сейчас термин «искусственный интеллект» употребляется по отношению к любым алгоритмам или системам, внутри которых есть формулы, обученные методом машинного обучения. То есть когда ты не руками пишешь «если так, то так», а задаешь для определенного рода задач, рода входа соответствующий выход, и параметры формулы получаются автоматически», – резюмировал Александр Крайнов, добавив, что до современных технических прорывов термин «искусственный интеллект» использовался в основном в компьютерных играх, пока компьютер не обыграл человека в го. Тогда журналисты и популяризовали «искусственный интеллект» как название машинного обучения.
Кирилл Токарев также отметил, что «в обывательском смысле сейчас «искусственным интеллектом» часто называют как классические алгоритмы машинного обучения, так и более сложные нейросети, большие языковые модели вроде ChatGPT».
Отвечая на вопрос о том, как нейросети повлияли на нашу жизнь, Александр Крайнов выделил продвинутые распознавание и синтез речи, поиск в интернете по фотографии и высокое качество съемки в современных смартфонах, которое обеспечивается алгоритмами. Также спикер обратил внимание на повышение эффективности интернет-поиска, который теперь ориентируется не на слова как таковые, а на их смысл. Кирилл Токарев, со своей стороны, дополнил, что алгоритмы помогают врачам ставить диагнозы и в целом развивают медицинские технологии.
Яхья Ибрагимов обратил внимание на то, что особенность продвинутых алгоритмов искусственного интеллекта в том, что они позволяют задачи, требующие вариативности: раньше считалось, что их может способен только человек. Именно эта особенность и обеспечила «вау-эффект» ИИ в последние годы.
Отвечая на вопрос о том, как нейросети повлияли на нашу жизнь, Александр Крайнов выделил продвинутые распознавание и синтез речи, поиск в интернете по фотографии и высокое качество съемки в современных смартфонах, которое обеспечивается алгоритмами. Также спикер обратил внимание на повышение эффективности интернет-поиска, который теперь ориентируется не на слова как таковые, а на их смысл. Кирилл Токарев, со своей стороны, дополнил, что алгоритмы помогают врачам ставить диагнозы и в целом развивают медицинские технологии.
Яхья Ибрагимов обратил внимание на то, что особенность продвинутых алгоритмов искусственного интеллекта в том, что они позволяют задачи, требующие вариативности: раньше считалось, что их может способен только человек. Именно эта особенность и обеспечила «вау-эффект» ИИ в последние годы.
«Уникальность направления ИИ заключается в том, что это прикладная технология, с помощью которой можно автоматизировать, улучшить, сделать более экономичным или безопасным практически любой процесс, любую сферу жизнедеятельности», – заключил Ибрагимов.
Александр Крайнов подчеркнул, что в развитии ИИ специалисты ориентируются на то, как человек решает те или иные задачи, но не пытаются воспроизвести человеческий разум. «Я думаю, мы будем двигаться по пути, когда есть отдельные сети, решающие разные задачи», – заключил Крайнов, добавив, что «скачок в будущее», возможно, обеспечат мультимодальные нейросети, которые смогут одновременно распознавать видео, звук и так далее.
По мнению Яхьи Ибрагимова, алгоритмы искусственного интеллекта очень далеки от человека, потому что концептуально ИИ устроен совсем по-другому: к примеру, у него нет множества сторонних факторов влияния вроде гормонов, которые напрямую воздействуют на человека. Ибрагимов также не исключил, что технология ИИ может однажды «замереть» по экономическим причинам, как это случилось с космическими полетами.
Далее собеседники перешли к обсуждению вопроса безопасного использования нейросетей.
По мнению Яхьи Ибрагимова, алгоритмы искусственного интеллекта очень далеки от человека, потому что концептуально ИИ устроен совсем по-другому: к примеру, у него нет множества сторонних факторов влияния вроде гормонов, которые напрямую воздействуют на человека. Ибрагимов также не исключил, что технология ИИ может однажды «замереть» по экономическим причинам, как это случилось с космическими полетами.
Далее собеседники перешли к обсуждению вопроса безопасного использования нейросетей.
«Нейросети, которые генерируют текст, сейчас пишут наиболее вероятное продолжение, как оно могло бы быть где-то написано. Это не собственное мнение. При этом ответы на несколько запросов могут быть различными. Никакого собственного мнения там нет», – рассказал Александр Крайнов.
Спикер также добавил, что опасность может заключаться не в самом функционировании нейросетей, а в том, как люди будут использовать их возможности: это разрушение приватности, злоупотребление автосгенерированным контентом и так далее. Яхья Ибрагимов, в свою очередь, добавил, что лучшим способом обезопасить использование нейросетей является обращение к ним как к источнику советов, а не решений. Олег Рогов отметил, что тестирование и использование ИИ налажено так, что решение принимает человек, и в случае отказа от этого с целью ускорения принятия решений необходимо заранее принимать отдельные меры безопасности.
Завершила дискуссию секция вопросов-ответов.
В ходе нее спикеры рассказали, что стопроцентное отсутствие ошибок в ответах нейросетей невозможно, при этом риск выхода ИИ из-под контроля человека невозможен также, а вопрос, возможно ли появление у искусственного интеллекта сознания, пока что очень далек от ответа.
Что может удивить в развитии нейросетей в ближайшие годы? По мнению Яхьи Ибрагимова, прорыв произойдет, когда ИИ сможет генерировать не только составные части контента, но и готовые материалы, например, фильмы. Олег Рогов, со своей стороны, отметил, что ИИ может предоставить новые решения в образовании: к примеру, модель виртуального пациента и дополненная реальность для обучения хирургов. Александр Крайнов, в свою очередь, подчеркнул, что сервисы «Яндекса» постепенно и очень значимо улучшаются благодаря алгоритмам, и разница по сравнению с предыдущими годами – очень значительна. Также Крайнов обратил внимание, что ИИ в медицине позволит учитывать большой объем косвенных факторов при диагностике заболеваний и, тем самым, повысить эффективность лечения.
В ходе нее спикеры рассказали, что стопроцентное отсутствие ошибок в ответах нейросетей невозможно, при этом риск выхода ИИ из-под контроля человека невозможен также, а вопрос, возможно ли появление у искусственного интеллекта сознания, пока что очень далек от ответа.
Что может удивить в развитии нейросетей в ближайшие годы? По мнению Яхьи Ибрагимова, прорыв произойдет, когда ИИ сможет генерировать не только составные части контента, но и готовые материалы, например, фильмы. Олег Рогов, со своей стороны, отметил, что ИИ может предоставить новые решения в образовании: к примеру, модель виртуального пациента и дополненная реальность для обучения хирургов. Александр Крайнов, в свою очередь, подчеркнул, что сервисы «Яндекса» постепенно и очень значимо улучшаются благодаря алгоритмам, и разница по сравнению с предыдущими годами – очень значительна. Также Крайнов обратил внимание, что ИИ в медицине позволит учитывать большой объем косвенных факторов при диагностике заболеваний и, тем самым, повысить эффективность лечения.
