Программа
представляет собой игру. На экране показывается или произносится обозначение знака. Затем система записывает вашу попытку воссоздать знак с помощью видеокамеры и, проанализировав, сообщает, насколько качественно выполнен жест.
На всех этапах игры используется искусственный интеллект. Сверточная нейронная сеть (CNN) фиксирует с видео позу вашей верхней части тела и отправляет информацию о сделанном жесте к другому CNN, анализирующему форму руки. Затем, с помощью скрытой марковской модели, происходит сравнение вашего жеста с идеальной версией, и дается оценку соответствия.
Вся система скрыта за простым в использовании интерфейсом, не мешающим сосредоточиться на обучении. Ученые утверждают, что для работы на других языках её «архитектуру» менять придется.