Если вы хотите сортировать огромное количество цифровых изображений или классифицировать ошеломляющие объемы письменной информации по темам, вам лучше всего полагаться на системы искусственного интеллекта (ИИ), называемые нейронными сетями, которые ищут закономерности в данных и тренироваться делать прогнозы на основе своих наблюдений.
Но когда дело доходит до областей с высокими ставками, таких как медицинская информация, где цена ошибки или неправильного прогноза потенциально опасна для жизни, мы, люди, иногда неохотно доверяем ответам, которые выдают программы. с. Это потому, что нейронные сети используют машинное обучение, в котором они тренируются, как разбираться в вещах, а наш хилый мясной мозг не может видеть этот процесс.
Хотя методы машинного обучения «являются гибкими и обычно дают точные прогнозы, они мало что говорят в понятных человеку терминах о том, почему делается конкретный прогноз», - говорит Томми Яаккола, профессор электротехники и информатики в Массачусетском институте. технологии по электронной почте.
Думайте об этом как о эквиваленте машинного обучения записи ваших математических задач на доске, чтобы показать свою работу.
Если вы больной раком, пытающийся выбрать варианты лечения, основываясь на предсказаниях того, как может прогрессировать ваша болезнь, или инвестор, пытающийся выяснить, что делать со своими пенсионными сбережениями, слепо доверять машине может быть немного. страшно - тем более, что мы научили машины принимать решения, но у нас нет хорошего способа наблюдать, как именно они их принимают.
Но не бойся. В новой научной статье Яаккола и другие исследователи из Массачусетского технологического института разработали метод проверки ответов, которые дают нейронные сети. Думайте об этом как о эквиваленте машинного обучения записи ваших математических задач на доске, чтобы показать свою работу.
Как сообщается в пресс-релизе Массачусетского технологического института, нейронные сети ИИ на самом деле имитируют структуру человеческого мозга. Они состоят из множества узлов обработки, которые, подобно нашим нейронам, объединяют усилия и объединяют свои вычислительные мощности для решения проблем. В процессе они участвуют в том, что исследователи называют «глубоким обучением», передавая обучающие данные от узла к узлу, а затем сопоставляя их с любым типом классификации, которую нейронная сеть пытается научиться делать. Результаты постоянно модифицируются для улучшения, почти так же, как люди учатся методом проб и ошибок с течением времени.
Большая проблема заключается в том, что даже компьютерщики, которые программируют сети, не могут в действительности следить за тем, что происходит с узлами, из-за чего сложно понять, как компьютеры на самом деле принимают решения.
«Мы не пытаемся объяснить внутреннюю работу сложной модели, - объясняет Яаккола. «Вместо этого мы заставляем модель работать таким образом, чтобы человек мог легко проверить, был ли сделан прогноз на правильной основе».
" Наш метод учит генерировать обоснование для каждого прогноза. Обоснование - это краткий фрагмент текста, который легко проверить человеку, которого достаточно, чтобы сделать такой же прогноз. Для этого мы разделили общий архитектуру модели на два отдельных компонента - генератор и кодировщик. Генератор выбирает обоснование - например, фрагмент текста - и передает его кодировщику для создания прогноза. Комбинация учится работать вместе как предсказатель."
«Таким образом, несмотря на то, что наш генератор и кодировщик сами по себе являются сложными методами глубокого обучения, комбинированная модель вынуждена делать свой прогноз таким образом, который поддается прямой проверке, поскольку прогноз основан на выбранном обосновании», - пишет Яаккола..
В своей статье ученые позабавились, используя свою систему для классификации отзывов с веб-сайта любителей пива на основе таких характеристик пива, как аромат, вкус и внешний вид. «В наборе данных отзывов о пиве уже были аннотированные предложения, относящиеся к конкретным аспектам продуктов, поэтому мы могли напрямую сравнивать автоматически сгенерированные обоснования с человеческим выбором», - говорит Яаккола. В ходе эксперимента они обнаружили, что нейронная сеть согласуется с человеческими аннотациями в 80-96% случаев, в зависимости от того, насколько специфична характеристика.
Интересно
Один из классических способов продемонстрировать возможности нейронной сети ИИ - использовать ее для решения так называемой задачи коммивояжёра и определения кратчайшего маршрута между несколькими городами.