ErgoVR机器人具身智能人机交互测评虚拟现实实验室

ErgoVR机器人具身智能人机交互测评虚拟现实实验室

概述

ErgoVR机器人具身智能人机交互测评虚拟现实实验室是津发科技创新研发配置的面向机器人人因设计、测评与科学研究的解决方案。方案支持在不同虚拟现实环境下呈现不同的机器人设计方案，并模拟不同的人机交互方式，通过津发自主研发的ErgoVR人因分析引擎直接对接产品设计原型，基于三维模型同步采集和综合分析用户与机器人交互时的眼动追踪、人机交互、时空轨迹、生理、脑电、动作姿态、行为等多模态数据，为机器人设计虚拟样机测评以及元宇宙机器人人因设计测评提供了科学量化的解决方案。

系统组成

(1)实验室概述

实验室可用于进行机器人具身智能人机交互研究。实验室主要分为被试间与主试间两大功能区域，之间由单向玻璃隔开，使主试间中的研究人员看见被试间内受试者的行为，而受试者看不见主试间，从而减小干扰。其中，被试间为实验进行的区域，搭建为虚拟现实测试室，可通过CAVE式虚拟现实系统、8K眼动脑电多模态虚拟现实头盔或者多人交互虚拟现实系统进行虚拟现实场景呈现，并可依照测试需求布置所需的多模态数据采集设备，如虚拟现实眼动仪、可穿戴人因生理仪等；被试间中有多个行为观察摄像头与拾音器，从不同角度摄取受试者的行为影像并采集受试者的声音，音视频信号传送给主试间中的人机环境同步平台进行数据分析。主试间为观察与数据分析区域，布置有语音控制台，研究人员的指令通过被试间的扬声器传送给受试者；主试间还布置有人机环境同步平台、人因智能边缘计算平台等设备，研究人员可在主试间实时同步采集多模态人因数据并进行分析。

实验室被试间设置有多模态人因数据采集设备，包括CAVE式虚拟现实系统、8K眼动脑电多模态虚拟现实头盔、多人交互虚拟现实系统、虚拟听觉嗅觉触觉感知模拟系统、虚实时空行为分析系统、虚拟现实双手交互系统、虚拟现实脑机交互设备、虚拟现实情感交互设备、虚拟现实动作交互设备、表情语音采集仪、行为观察仪、可穿戴人因生理仪、虚拟现实脑成像仪、可穿戴多模态脑功能仪、动作捕捉仪以及智能设计人因测试专家系统等。被试间的产品组成与选型可根据实际研究需求进行配置。此外，被试间系统的多模态数据采集设备可结合ErgoAI人因智能边缘计算终端，将计算和数据处理能力移至接近数据源的终端设备上，进行数据的智能化处理和分析。

 

实验室主试间设置有多模态人因数据同步采集、分析和边缘智能设备，包括ErgoLAB人机环境同步平台和ErgoAI人因智能评估平台。其中，ErgoLAB人机环境同步平台支持多模态数据同步采集与分析，确保所需要的人、机、环境三方面的多模态数据可基于同一时间轴进行实时同步，消除事后对齐数据分析的负担，并使数据“协同增效”，多角度综合印证结果，确保数据结果的有效性与准确性。ErgoAI人因智能应用平台，对接人机环境同步平台所同步采集的多模态数据，搭建开放式AI算法应用平台，能够为不同AI算法基础的用户，提供从数据采集、数据降噪、数据标注、模型训练、模型评估及部署应用的全流程智能化应用系统。平台可提供数千人次数据搭建的各类应用数据集，涵盖人员基数据集、状态数据集等，以及数十种人因工程预训练模型，包括单模态状态识别模型、多模态状态识别模型等。同时，ErgoAI人因智能应用平台支持根据实际研究内容与方向创建数据集、训练并验证模型，并进行模型部署与实时状态预测。

 

(2)实验室示意图

 

 

功能应用

l对接主流虚拟现实引擎，兼容全景图片与视频

l智能人机交互模拟与绩效分析

l基于三维模型自动记录多模态数据

l基于虚拟现实的多模态人因数据同步

l支持多种虚拟现实系统

l人因智能评估与机器人情感化设计

ErgoLAB多模态同步方案：

整体概述

ErgoLAB人机环境同步平台采用多模态数据时钟同步技术，平台可完成完整的实验和测评流程，包括项目管理-试验设计-同步采集-信号处理-数据分析-人因智能评估-可视化报告，支持基于云架构技术的团体测试和大数据管理。

ErgoLAB人机环境同步平台采用主客观结合多模态数据同步采集与多维度验证的方法，数据实时同步种类包含大脑认知数据（EEG/BCI脑电仪与脑机接口边缘计算设备、fNIRS/BCI近红外脑成像仪），视觉数据（Eyetracker眼动仪与视线交互系统），生理数据（生理仪含：GSR/EDA、EMG、ECG、EOG、HRV、RESP、TEMP/SKT、PPG、SpO2），行为观察、肢体动作与面部表情（基本情绪、情绪效价、微表情等）数据、生物力学数据（拉力、握力、捏力、压力…），人机交互数据（包含人机界面交互行为数据以及对应的键盘操作，鼠标点击、悬浮、划入划出等；移动终端人机交互行为数据以及对应的手指轨迹操作行为如点击、缩放、滑动等；VR终端界面人机交互行为数据及对应的双手操作拾取、丢弃、控制，VR空间行走轨迹）、以及多类型时空行为轨迹数据采集(包括室内、户外、以及VR环境不同时空的行走轨迹、行车轨迹、访问状态以及视线交互、情感反应、交互操作行为等数据实时同步采集)、以及作业空间及作业环境数据（温度、湿度、噪音、光照、大气压、湿度、粉尘等）等客观量化数据；为科学研究及应用提供完整的数据指标。

 

ErgoAI人因智能：

将人工智能技术引入人因工程研究工具，人因工程行业更加深度，使得实验环境不会受限于某一种设备或数据指标，采集分析不同典型行业或学科专业的人-机-环境系统交互过程中自然状态下的人类行为数据，获取更接近真实人员状态的数据。平台还提供覆盖科研实验全流程的功能模块，包括项目管理、实验设计、同步采集、数据分析、综合统计和可视化报告，结合ErgoAI人因智能边缘计算平台为多模态人机环境研究提供一站式人因工程+人工智能解决方案。以ErgoLAB人机环境同步平台和ErgoAI人因智能边缘计算平台为核心的多模态同步人因智能解决方案大大提高了实验结果的信效度，同时节省了研究的人力、物力、时间，提高了研究与测评的整体效率。

 

基于ErgoAI人因智能多元时序算法底座与人因工程人机环境数据库，构建人员特定状态的预训练模型，配合高灵活度的训练方案管理功能，用户能够在统一环境中高效构建和优化模型。 从而实现对人员状态的精准实时评估与预警，如负荷状态、应激状态、疲劳状态、情景意识和注意能力等。