Заставить алгоритмы ИИ показать свою работу

Обучающие машины с искусственным интеллектом (ИИ) можно обучить решать проблемы и головоломки самостоятельно, вместо того, чтобы использовать правила, которые мы для них разработали. Но часто исследователи не знают, какие правила устанавливают для себя машины. Доцент лаборатории Cold Spring Harbor (CSHL) Питер Ку разработал новый метод, который тестирует программу машинного обучения, чтобы выяснить, какие правила она усвоила самостоятельно и являются ли они правильными.


Ученые-информатики «обучают» -машину делать прогнозы, предоставляя ей набор данных. извлекает серию правил и операций – модель – на основе информации, с которой она столкнулась во время обучения. Ку говорит:

“Если вы изучите общие правила математики вместо того, чтобы запоминать уравнения, вы знаете, как решать эти уравнения. Так что вместо того, чтобы просто запоминать эти уравнения, мы надеемся, что эти модели учатся решать это, и теперь мы можем дать ему любое уравнение и это решит ее “.

Ку разработал тип ИИ, называемый глубокой нейронной сетью (DNN), для поиска паттернов в цепях РНК, которые увеличивают способность белка связываться с ними. Ку обучил свою DNN, называемую остаточным связыванием (RB), с тысячами последовательностей РНК, сопоставленных с оценками связывания с белками, и RB стал хорошо предсказывать оценки для новых последовательностей РНК. Но Ку не знал, фокусировалась ли на короткой последовательности букв РНК – мотиве, которого люди могли ожидать, или на какой-то другой вторичной характеристике цепей РНК, которой они могли не быть.

Ку и его команда разработали новый метод под названием Global Importance Analysis, чтобы проверить, какие правила RB генерирует для своих прогнозов. Он представил обученной сети тщательно разработанный набор синтетических последовательностей РНК, содержащих различные комбинации мотивов и характеристик, которые, по мнению ученых, могут повлиять на оценки RB.

Они обнаружили, что сеть рассматривает нечто большее, чем просто написание короткого мотива. Он учитывал то, как цепь РНК может сворачиваться и связываться с собой, насколько близок один мотив к другому, и другие особенности.

Ку надеется проверить некоторые ключевые результаты в лаборатории. Но вместо того, чтобы проверять каждое предсказание в этой лаборатории, новый метод Ку действует как виртуальная лаборатория. Исследователи могут проектировать и тестировать миллионы различных переменных с помощью вычислений, что намного больше, чем люди могут проверить в реальной лаборатории.

«Биология супер анекдотична. Вы можете найти последовательность, вы можете найти закономерность, но вы не знаете:« Действительно ли этот образец важен? » Вы должны провести эти интервенционные эксперименты. В этом случае все мои проводятся с помощью простого запроса нейронной сети ».

0 Комментарий
Inline Feedbacks
View all comments