Нейросеть autoit: Нейросеть | Русское сообщество AutoIt

Нейросеть | Русское сообщество AutoIt

Alsyone

Новичок

• 15 Апр 2015

• #1

Приветствую.
Кто-нибудь пробовал написать что-нибудь похожее на нейросеть?
Я сейчас занимаюсь написанием чат-робота и хотелось бы прикрутить к нему искусственный интеллект.
Понимаю что задача непростая, но может у кого есть открытые алгоритмы на эту тему?
Буду благодарен за любые примеры относящиеся к нейросетям и ИИ.

edyapd

Осваивающий

• 16 Апр 2015

• #2

Лет семь-восемь назад пытался разобраться с НС. Но дальше обучения и распознования символов дело не пошло. Даже таблицу умножение не выучила
А чат-робот наверное уже не актуально. Тут смотрю уже покруче роботов придумывают.
А вообще в сети много информации по ним. Даже с примерами. И по чат-роботу тоже находил простенькую программку.

Alsyone

Новичок

• 16 Апр 2015

• #3

edyapd сказал(а):

Лет семь-восемь назад пытался разобраться с НС. Но дальше обучения и распознования символов дело не пошло. Даже таблицу умножение не выучила
А чат-робот наверное уже не актуально. Тут смотрю уже покруче придумывают.
А вообще в сети много информации по ним. Даже с примерами. И по чат-роботу тоже находил простенькую программку.

Нажмите, чтобы раскрыть…

Спасибо за ответ. Примеры в сети я смотрел, но ничего на Автоите не нашёл. А в других языках Я не особый спец так что не выходит запустить переделанный код поскольку некоторые моменты мне попросту непонятны.
Дело не в чат-роботе, а вообще в нейросети на Autoit. Вы на чём свою писали? Возможно посмотреть исходники? Хотя-бы отдельные функции.
Аутоит сделан для автоматизации действий и по моему было-бы прикольно если бы программа предсказывала возможные действия пользователя. А если ещё и поговорить можно так это вообще круто.
Просто с 0 её написать у меня не получается, дальше вероятностной выборки ответов и действий дело не идёт. Это само по себе здорово и на текущем этапе намного эффективнее нейросети, но хотелось бы добавить именно её.
А видео ИМХО фэйк.

CrazyDoc

Новичок

• 16 Апр 2015

• #4

Alsyone сказал(а):

Аутоит сделан для автоматизации действий и по моему было-бы прикольно если бы программа предсказывала возможные действия пользователя.

Нажмите, чтобы раскрыть…

на мой взгляд именно для того и создаются нейросети.

Добавлено:

Сообщение автоматически объединено: 16 Апр 2015

Alsyone сказал(а):

А если ещё и поговорить можно так это вообще круто.

Нажмите, чтобы раскрыть…

для начала определитесь ЧТО она должна делать. с какими результатами. поймете как писать. но, имхо, описание нейросети силами одного человека — гиблое дело…

Alsyone

Новичок

• 16 Апр 2015

• #5

CrazyDoc сказал(а):

Alsyone сказал(а):

Аутоит сделан для автоматизации действий и по моему было-бы прикольно если бы программа предсказывала возможные действия пользователя.

Нажмите, чтобы раскрыть…

на мой взгляд именно для того и создаются нейросети.

Добавлено:

Сообщение автоматически объединено: 16 Апр 2015

Alsyone сказал(а):

А если ещё и поговорить можно так это вообще круто.

Нажмите, чтобы раскрыть…

для начала определитесь ЧТО она должна делать. с какими результатами. поймете как писать. но, имхо, описание нейросети силами одного человека — гиблое дело…

Нажмите, чтобы раскрыть…

Я вообще не совсем понимаю разницу между нейросетью и стат. выборкой. Например торговые роботы для форекса на основе статистики и нейросети. Если сравнивать результаты, то там расхождения в пределах процента! По крайней мере те которые смотрел Я. А если нет разницы, то зачем усложнять? Вот я и хочу посмотреть и понять разницу между статистикой и нейросетью. Ну а пример может быть предельно простой. На входе ряд сл. чисел, на выходе программа предполагает следующее значение. Со статистикой в таком случае всё понятно — это простая (или не простая) средняя. А вот как описать саму нейросеть? Я бы всё-таки хотел какие-нибудь самые элементарные примеры, а не просто обсуждения. Но всё равно спасибо за внимание.

WSWR

AutoIT Гуру

• 16 Апр 2015

• #6

Alsyone

Например торговые роботы для форекса на основе статистики и нейросети. Если сравнивать результаты, то там расхождения в пределах процента!

Нажмите, чтобы раскрыть…

Если считать, что нейросеть основывается на тех же принципах, что и человеческий мозг, то применение ее к торговле практически бессмысленно — нет образца, к которому нужно стремиться — ведь человек торгует не идеально.
Поэтому нейросети правильнее использовать в задачах типа «отличить кошку от собаки». Человек может это сделать со 100% результатом, значит и нейросеть сможет.

А начать хотя бы с википедии. https://ru.wikipedia.org/wiki/%C8%F1%EA%F3%F1%F1%F2%E2%E5%ED%ED%E0%FF_%ED%E5%E9%F0%EE%ED%ED%E0%FF_%F1%E5%F2%FC
Без теории браться за такое нельзя.

И вообще, зачем повторяться за другими? Чат-ботов полно, но полезность их не очевидна. Не лучше найти какое-нибудь другое, более интересное направление?

Dessan

• 25 Дек 2016

• #7

А есть у кого-то пример кода чат бота?Или хоть принцип его функционирования?Это что набор вариантов ответа , который заранее вписывается в код и просто ждёт похожую входящую реплику?
Типа: «Привет!» — и в ответ бот рендомно выдаёт ответ «Привет!» или «Добрый день»или «Как дела?» и т. д.?Как в Терминаторе 1 в эпизоде когда он в гостинице и у него через дверь спрашивают что там воняет в комнате?

Сервис распознавания капч, который больше не нужен / Хабр

Dinxor
29 июня 2021 в 05:43

Python *Обработка изображений *Машинное обучение *

Я уже рассказывал про свой опыт в области распознавания капчи. Разумеется, кроме чисто академического интереса у меня был и материальный — иногда приходится скачивать несколько файлов с обменника, а ждать паузу и вводить капчи я не люблю. Поэтому и пользуюсь программой для закачек под названием Universal Share Downloader, или сокращённо USD. Недавно сервис обмена файлами Turbobit в очередной раз внёс изменения в свой сайт, в результате чего моя программа оказалась бесполезной. Теперь я могу рассказать о сервисе распознавания поподробнее, уже не опасаясь приблизить этот момент. Может, рост числа бесплатных скачиваний в результате использования сервиса уже повлиял. Или это просто традиционная июньская пакость от обменника — то капчу поменяют, то скорость скачивания урежут.

Ну как так то?

У USD есть активное сообщество, в котором разрабатываются и распространяются плагины для поддержки различных файлообменников. Там я выкладывал свою программу для распознавания капчи, чтобы облегчить процесс скачивания всем желающим. Версии с Тессерактом, потом с нейросетью и окончательный вариант — с использованием веб-сервиса на Heroku. Капча представляла собой довольно известную в прошлом Kohana, сейчас такая больше нигде не используется и спамерам неинтересна. Отправка файла осуществлялась РОST запросом. Экспериментальная клиентская часть была написана на Пайтоне, потом для сокращения размера и помещения в сборку я переписал её на AutoIt. Это вызвало проблемы с защитником в Windows 10 — он не оценил идею отправлять файлы куда-то в интернет (а может, совпали какие-нибудь сигнатуры) и стал её блокировать. И тут меня осенило: лучшая программа — это её отсутствие. Я связался с разработчиком плагина и предложил поместить отправку файла на распознавание прямо в плагин Турбобита. Правда, для этого пришлось добавить в сервис возможность приёма файлов в виде Base64 текста.

Технически сервис представлял собой Flask приложение на Heroku, распознавание с помощью Keras и Tensorflow. Мне удалось уложиться в ограничения бесплатного использования — потребление дискового пространства составило 430 Мб. В самом начале принимались файлы, по которым можно было судить о номере попытки — в случае неудачи следующий файл шёл с другим именем. Я пытался вести статистику, но периодически прилетали серии с не зависящими от очерёдности именами — возможно, кто-то использовал сервис для разметки своих файлов. С отправкой капч в виде Base64 имена файлов стали недоступны, и я стал просто считать капчи. Сохранение файлов реализовал следующим образом: картинка и результат добавляются в словарь, при достижении нужного количества в памяти создается zip архив и капчи переносятся туда с добавлением к имени метки времени, затем архив отправляется на хранение. Бесплатный сервис на Heroku автоматически перезапускается примерно раз в сутки или при бездействии в течение 30 минут. При таком подходе часть капч теряется в случае перезапуска сервиса, но задачи сохранить абсолютно всё и не ставилось. Потом добавил возможность просмотра последней распознанной картинки. Правда, из-за того что страница с текстом и картинка запрашивались не одновременно, иногда можно было увидеть капчу, совсем не соответствующую тексту. Решил не исправлять, всё равно кроме меня никто эту страницу не смотрит. В какой-то момент добавил возможность просмотра собственного IP адреса — почему бы и нет, когда уже есть постоянно работающий сервис?

Два варианта интерфейса для отладки

Сервис проработал около 8 месяцев, количество распознаваемых файлов за сутки колебалось от полутора до трех тысяч, были всплески до шести. Тренировал нейросеть несколько раз на 15000 файлах, последний раз в январе с учетом 250 обнаруженных за месяц ошибок. Логи я не сохранял, сами файлы в целях контроля точности можно было паковать в архивы и отправлять на Cloudinary. Включал сохранение два раза на пару месяцев, теперь у меня есть полтора гигабайта распознанных капч — чуть более 300 тысяч файлов. Судя по сохраняемым именам, явных ошибок там всего 13 штук, неявных при выборочном просмотре обнаружить не удалось. По-моему, неплохая точность распознавания, сам такого не ожидал.

Обнаруженные ошибки распознавания

Код программы доступен на GitHub, настройки Heroku и ключи авторизации Cloudinary передаются через переменные окружения.

Теги:

• captcha
• python
• ocr
• neural networks
• алгоритмы
• нейросети
• распознавание текста
• капча

Хабы:

• Python
• Обработка изображений
• Машинное обучение

Всего голосов 4: ↑4 и ↓0 +4

Просмотры

6.5K

Комментарии
2

Алексей
@Dinxor

Пользователь

Комментарии
Комментарии 2

Вредоносное ПО глазами сверточной нейронной сети

Мотивация

В прошлом модели глубокого обучения считались «черными ящиками» из-за отсутствия интерпретируемости, с которой они были представлены. Однако за последние несколько лет было проделано много работы по визуализации того, как решения принимаются в нейронных сетях. Эти усилия приветствуются, поскольку одной из их целей является укрепление доверия людей к решениям на основе глубокого обучения, предлагаемым для различных вариантов использования. Глубокое обучение для обнаружения вредоносных программ не является исключением. Цель состоит в том, чтобы получить визуальное объяснение принятия решения — другими словами, нас интересуют основные моменты, которые модель делает во входных данных как имеющие потенциальные вредоносные результаты. Возможность объяснить эти основные моменты с точки зрения аналитика угроз подтверждает, что мы на правильном пути с этой моделью. Нам нужна уверенность в том, что то, что мы строим, не принимает совершенно случайных решений (и в большинстве случаев нам везет), а скорее имеет правильные критерии для требуемой дискриминации. С доказательством того, что соответствующие отличительные черты между вредоносным ПО и чистыми файлами в первую очередь учитываются при принятии решений, мы будем более склонны дать модели шанс на развертывание и дальнейшие улучшения на основе результатов, которые она имеет «в дикой природе». ”

Контекст

С помощью визуализаций мы хотим подтвердить, что данная нейронная сеть активируется вокруг соответствующих функций. Если это не так, это означает, что он не изучил должным образом базовые шаблоны в данном наборе данных, и модель не готова к развертыванию. Потенциальная реакция, если визуализации указывают на ошибки в выборе отличительных признаков, заключается в сборе дополнительных данных и пересмотре используемой процедуры обучения.

Этот блог посвящен сверточным нейронным сетям (CNN) — мощной архитектуре глубокого обучения со многими приложениями в компьютерном зрении (CV), которая в последние годы также успешно используется в различных задачах обработки естественного языка (NLP). Чтобы быть более конкретным, CNN, работающие на уровне символов (CharCNN), являются предметом визуализации, рассматриваемой в этой статье. Подробнее о мотивах использования CharCNN в борьбе CrowdStrike с вредоносными программами можно прочитать в этом блоге «CharCNN и сценарии PowerShell: еще одна борьба с вредоносными программами». Вариант использования в предстоящем анализе тот же: обнаружение вредоносных сценариев PowerShell на основе их содержимого, но на этот раз с другой целью, направленной на интерпретируемость. Цель состоит в том, чтобы посмотреть глазами нашей модели и проверить критерии, на которых основаны ее решения.

Одним из важных свойств сверточных слоев является сохранение пространственной информации, которая теряется в последующих полносвязных слоях. В CV в ряде работ утверждается, что более глубокие слои имеют тенденцию захватывать все больше и больше визуальной информации высокого уровня. Вот почему мы используем последний сверточный слой для получения высокоуровневой семантики, специфичной для класса (т.е. вредоносное ПО представляет интерес в нашем случае) с пространственной локализацией в данном входе. Другие проверки в нашей реализации направлены на уменьшение количества неясных объяснений из-за низкой точности модели или неоднозначности текста. Чтобы решить эту проблему, мы берем только те образцы, которые правильно классифицированы, с уровнем достоверности выше заданного порога принятия решения, равного 9. 0013 0,999 .

Связанная работа

Среди новаторских открытий, приведших к текущим разработкам в области визуализации CNN, есть доказательство (Zhou et al., 2015a) того, что сверточные единицы в CNN для CV действуют как детекторы объектов без какого-либо контроля над ними. расположение объектов. Это также верно в случаях использования НЛП, поскольку локализация значимых слов, различающих данный класс, возможна аналогичным образом. Среди первоначальных усилий по визуализации CNN мы также можем упомянуть деконволюционные сети, используемые Zeiler and Fergus (2014) для визуализации того, какие паттерны активируют каждую единицу. Махендран и Ведальди (2015), а также Досовицкий и Брокс (2015) показывают, какая информация сохраняется в глубинных функциях, не подчеркивая относительную важность этой информации.

Чжоу и др., 2015b предлагают CAM (карты активации классов) — метод, основанный на объединении глобальных средних значений (GAP), который позволяет выделять области дискриминационного изображения, используемые CNN для идентификации данной категории. Прямая применимость находится в CV, как и в случае с большинством исследований, проведенных в этом отношении. Однако следует еще раз упомянуть, что варианты использования распространяются и на НЛП с некоторыми изменениями в интерпретациях.

Недостаток CAM в том, что он неприменим к архитектурам, которые имеют несколько полностью связанных слоев перед выходным слоем. Таким образом, чтобы использовать этот метод для таких сетей, необходимо заменить плотные слои сверточными слоями и переобучить сеть. Это не относится к Grad-CAM (Selvaraju et al., 2016), Gradient-weighted CAM, где информация о градиенте для конкретного класса используется для локализации важных областей на входе. Это важно, поскольку мы хотим, чтобы визуальное объяснение было первым, различающим классы, то есть мы хотим, чтобы оно выделяло функции (слова/символы/n-граммы), которые являются наиболее предсказуемыми для интересующего класса, которые, в нашем случае, будет вредоносное ПО.

Grad-CAM

На рис. 1 в общих чертах показано, как Grad-CAM применяется к текстовому вводу. В частности, нас интересует визуализация вредоносного содержимого PowerShell в виде тепловой карты. В этих визуализациях наиболее прогностические функции для вредоносного ПО выделены с разной интенсивностью в зависимости от их веса с точки зрения нашей сверточной модели. В упомянутом потоке Grad-CAM применимы следующие элементы и действия:

Рисунок 1: Общий вид применимости Grad-CAM для ввода текста. Более конкретный вариант использования, на который намекает диаграмма, — визуализация тепловых карт для вредоносных сценариев PowerShell. (щелкните изображение, чтобы увеличить)

• Входные данные — в текущем варианте использования предоставленные входные данные представляют собой содержимое скриптов PowerShell и интересующую категорию, которая в нашем случае является вредоносным ПО.
• Прямой проход необходим, так как нам нужно распространить входные данные по модели, чтобы получить необработанные оценки класса перед softmax.
• Градиенты установлены на 0 для чистого и 1 для вредоносного ПО (целевой класс).
• Обратное распространение сигналов, полученных при прямом проходе, на исправленную карту сверточных признаков интереса, которая фактически является грубой локализацией Grad-CAM.
• Выходные данные GradCAM, в нашем случае , представляют собой визуализации исходных сценариев с выделенными наиболее предсказуемыми функциями для данного класса.

В Grad-CAM мы пытаемся обратить процесс обучения, чтобы иметь возможность интерпретировать модель. Это возможно с помощью метода, называемого градиентным восхождением. Вместо регулярных обновлений взвешенных дельт, которые выполняются для уменьшения потерь градиент x (-1) x lr , при градиентном восхождении к области, которую нужно визуализировать, добавляется больше дельты, чтобы выделить интересующие особенности. 9c \), которые представляют собой частичную линеаризацию глубокой сети ниже по течению от A и фиксируют важность карты признаков k для целевого класса c.

Затем мы берем средневзвешенное значение активации для каждой карты функций. Для этого мы умножаем важность k-й карты характеристик:

Нанять разработчиков AutoIt — Нанять услуги

Нанять разработчиков AutoIt — Нанять услуги — Riseup Labs

Riseup Labs — это платформа, доступная только по приглашению для разработчиков и инженеров AutoIt высшего уровня. Быстрорастущие компании выбирают Riseup Labs для расширения своей команды разработчиков и создания AutoIt.

Получить предложение        Ознакомьтесь с нашим опытом        Скачать брошюру

Нанять разработчика AutoIt

Наша цель в Riseup Labs — как можно быстрее найти вам программиста, который впишется в вашу команду и поможет сразу же продвигать ваш проект. За прошедшие годы мы усовершенствовали наш процесс найма, и теперь нам доверяют ведущие стартапы по всей стране. Так что начните процесс найма в Riseup Labs сегодня и начните добавлять в свой штат способных людей.

👉 Аренда
Преданные разработчики| Команда разработчиков| Разработчики мобильных приложений| Веб-разработчики| Разработчики игр| Разработчики программного обеспечения| Android-разработчики| Разработчики приложений для Android| Разработчики игр для Android|