Рисунок 27. Схема работы мультимодального интерфейса
56
Рисунок 28 Работа блока интеграции модальностей
57
Рисунок 29 Персональный интеллектуальный помощник Siri для iPhone
Таким образом, iPhone с помощью Siri получает пвсевдоразумные функции совместно с взаимодействием на естественном языке. При этом запросы пользователя интерпретируются программным приложением по человеческим же алгоритмам. Дальнейшим направлением развития Siri является использование для управления голосом Apple-телевизоров [97].
Начал получать распространение и новый вид пользовательского интерфейса – тактильный (хептический) интерфейс. Тактильный интерфейс является развитием жестового интерфейса с добавлением обратной связи. Тактильный интерфейс - это способ взаимодействия пользователя с компьютером посредством получения чувствительной обратной связи. Чувство осязания - это наиболее эффективный способ обучения человека, более эффективный, чем зрение или слух. Первое направление применения устройств с тактильным интерфейсом (обратной тактильной связью) - расширение спектра тактильных ощущений (прикосновений) от использования гаджетов. Чувство прикосновения делится на две категории - это тактильные ощущения через поверхность кожи (ощущение фактуры поверхности баскетбольного мяча) или более глубокие кинестетические импульсы, поступающие от мускулов и сухожилий (удар по хоккейной шайбе, когда в руках находится клюш-
58
ка). Второе направление - передача специфической шаблонной информации. Третье направление - общение пользователей [13].
Чувство касания может быть реализовано для следующих случаев:
1.Перелистывание страниц с помощью манипуляций по сенсорному экрану инициируется не привычным касанием или жестом скольжения, а лёгким сжатием сенсорных зон. При перелистывании страницы устройство сопровождает это вибрацией, похожей на ту, что возникает при скольжении бумажных страниц друг по другу.
2.Ощущение текстуры поверхности предметов, которые находятся на экране, или звуков, которые слышны из динамиков. В частности, для того, чтобы «подержать» фотографии или голограммы.
Передача информации может быть реализована для следующих случаев:
1.Передача специфической шаблонной информации (например, указание пользователю с помощью вибрации направления движения по маршруту, проложенному в картографическом приложении).
2.Предупреждение пользователя с помощью вибрации о попадании в поле зрения какой-либо необходимой информации или объектов (например, умные очки).
Общение может быть реализовано для следующих случаев:
1.При пересылке нового типа сообщений между пользователями мобильных устройств (вибросообщения, например, сердцебиения абонента в виде вибрации для воспроизведения на мобильном устройстве выбранного из списка получателя, по аналогии с передачей мелодий для звонков).
2.Для идентификации звонящего абонента по специфической вибрации (с помощью стандартных наборов вибросхем) или изменению текстуры поверхности мобильных устройств.
3.Для создания стандартных тактильных схем для смайликов. Существует два основных типа тактильных устройств [84]: устройства перчаточного или карандашного типа, позволяющие
пользователям «прикасаться» и манипулировать трёхмерными (объёмными) виртуальными объектами;
устройства, позволяющие пользователям «ощущать» текстуру двухмерных (плоских) объектов с помощью интерфейса типа карандаша или мыши.
В качестве примера тактильного устройства можно привести перчаткуCyberGrasp, которая позволяет пользователю посредством тактильных ощущений почувствовать размер и форму компьютерных объектов, работатьспредметаминаэкраневтрёхмерномпространстве[88].
59
Также устройствами, реализующими тактильный интерфейс, можно считать снаряжение для компьютерных видеоигр (например, куртка TN Games 3rd Space и шлем HXT). В таких устройствах кинестетические тактильные ощущения имитируются встроенным воздушным компрессором (например, имитация попадания пули в голову пользователя с помощью воздушного импульса). Отметим, что тактильный (хептический) интерфейс, активно применяется в компьютерных играх и при работе с некоторыми онлайновыми сетевыми службами, реализующих трехмерную виртуальную среду.
Основные усилия по разработке тактильного интерфейса направлены на создание виртуальных кнопок мобильных устройств (пользователь, прикасаясь к сенсорному экрану, ощущает наличие кнопок и слышит стандартные звуки, обычно сопровождающие работу с клавиатурой, но кнопок на самом деле нет). Использование виртуальных кнопок реализовывалось у таких производителей мобильных устройств как LG, Motorola, Samsung, Nokia. Тактильный интерфейс реализуется с помощью дополнительного прозрачного слоя, который располагается над дисплеем и будет создавать рельефность в процессе работы. Слой сделан из матрицы пьезоэлектрических элементов, которые смогут при подаче напряжения приподниматься вверх. В результате если пользователь нажимает на ничего не значащий участок экрана, он не получит в ответ никакого сигнала. Если же пользователь прикасается к виртуальной кнопке на экране, то пользователь ощущает вибрацию экрана, имитирующую «утапливание» кнопки со щелчком.
В 2012 году Apple запатентовала конструкцию дисплея, который, снабжён парой дополнительный слоев: один заполнен жидкостью, обладающей магнитными свойствами, а другой представляет собой матрицу миниатюрных электромагнитов. Активация определённых магнитов притягивает жидкость в нужное место, и форма поверхности дисплея чуть-чуть меняется. Этого достаточно для того, чтобы пользователь почувствовал, например, нажатие на кнопку.
Компания Senseg пытается достичь похожего эффекта без механического изменения формы поверхности дисплея. Вместо магнитов и ферромагнитной жидкости дисплей покрыт сеткой электродов — так называемых тикселей (тиксель — сокращённая форма словосочетания «тактильный пикселей»). Меняя электрический заряд на тикселях, можно упрощать или затруднять скольжение пальца по ним. В результате возникает иллюзия того, что плоская поверхность имеет текстуру и даже форму.
60