ErgoVR多人交互虛擬現(xiàn)實實驗室

概述

ErgoVR多人交互虛擬現(xiàn)實實驗室，基于“人-機-環(huán)境"系統(tǒng)工程理論建設(shè)，適用于工業(yè)設(shè)計與用戶體驗、建筑設(shè)計、工業(yè)工程、交通駕駛等多個領(lǐng)域的多人或團(tuán)體測評科學(xué)研究以及高校實驗教學(xué)等方面的工作。能夠滿足多種研究需求，并能夠進(jìn)行多人團(tuán)體交互下的理論驗證、設(shè)計測評、虛擬樣機測評與產(chǎn)品測試等研究。   

多人交互虛擬現(xiàn)實實驗室可基于大型沉浸式CAVE虛擬現(xiàn)實系統(tǒng)及可穿戴虛擬現(xiàn)實系統(tǒng)進(jìn)行測試，支持多人在同一個虛擬現(xiàn)實場景中協(xié)同完成人機交互等協(xié)同任務(wù)并進(jìn)行人機環(huán)境數(shù)據(jù)的定量評價。在系統(tǒng)中，用戶可以自定義創(chuàng)建虛擬環(huán)境，并且進(jìn)行多感知交互體驗研究，其中包含嗅覺模擬系統(tǒng)、觸覺模擬系統(tǒng)、聽覺模擬系統(tǒng)等多感知交互系統(tǒng)。

同時，結(jié)合津發(fā)自主研發(fā)的ErgoLAB人機環(huán)境同步云平臺，基于“以人為中心"的理念，同步采集與分析多人的多模態(tài)數(shù)據(jù)，為科學(xué)研究和設(shè)計評價提供完整的數(shù)據(jù)指標(biāo)。

系統(tǒng)組成

(1) 實驗室概述

實驗室可用于進(jìn)行虛擬現(xiàn)實環(huán)境多人交互系統(tǒng)的研究。實驗室主要分為被試間與主試間兩大功能區(qū)域，之間由單向玻璃隔開，使主試間中的研究人員看見被試間內(nèi)受試者的行為，而受試者看不見主試間，從而減小干擾。其中，被試間為實驗進(jìn)行的區(qū)域，搭建為虛擬現(xiàn)實測試室，可通過CAVE式虛擬現(xiàn)實系統(tǒng)、8K眼動腦電多模態(tài)虛擬現(xiàn)實頭盔或者多人交互虛擬現(xiàn)實系統(tǒng)進(jìn)行虛擬現(xiàn)實場景呈現(xiàn)，并可依照測試需求布置所需的多模態(tài)數(shù)據(jù)采集設(shè)備，如虛擬現(xiàn)實眼動儀、可穿戴人因生理儀等；被試間中有多個行為觀察攝像頭與拾音器，從不同角度攝取受試者的行為影像并采集受試者的聲音，音視頻信號傳送給主試間中的人機環(huán)境同步平臺進(jìn)行數(shù)據(jù)分析。主試間為觀察與數(shù)據(jù)分析區(qū)域，布置有語音控制臺，研究人員的指令通過被試間的揚聲器傳送給受試者；主試間還布置有人機環(huán)境同步平臺、人因智能邊緣計算平臺等設(shè)備，研究人員可在主試間實時同步采集多模態(tài)人因數(shù)據(jù)并進(jìn)行分析。

實驗室被試間設(shè)置有多模態(tài)人因數(shù)據(jù)采集設(shè)備，包括CAVE式虛擬現(xiàn)實系統(tǒng)、8K眼動腦電多模態(tài)虛擬現(xiàn)實頭盔、多人交互虛擬現(xiàn)實系統(tǒng)、虛擬聽覺嗅覺觸覺感知模擬系統(tǒng)、虛實時空行為分析系統(tǒng)、虛擬現(xiàn)實雙手交互系統(tǒng)、虛擬現(xiàn)實腦機交互設(shè)備、虛擬現(xiàn)實情感交互設(shè)備、虛擬現(xiàn)實動作交互設(shè)備、表情語音采集儀、行為觀察儀、可穿戴人因生理儀、虛擬現(xiàn)實腦成像儀、可穿戴多模態(tài)腦功能儀、動作捕捉儀以及裝備設(shè)計人因測試專家系統(tǒng)等。被試間的產(chǎn)品組成與選型可根據(jù)實際研究需求進(jìn)行配置。此外，被試間系統(tǒng)的多模態(tài)數(shù)據(jù)采集設(shè)備可結(jié)合ErgoAI人因智能邊緣計算終端，將計算和數(shù)據(jù)處理能力移至接近數(shù)據(jù)源的終端設(shè)備上，進(jìn)行數(shù)據(jù)的智能化處理和分析。

實驗室主試間設(shè)置有多模態(tài)人因數(shù)據(jù)同步采集、分析和邊緣智能設(shè)備，包括ErgoLAB人機環(huán)境同步平臺和ErgoAI人因智能評估平臺。其中，ErgoLAB人機環(huán)境同步平臺支持多模態(tài)數(shù)據(jù)同步采集與分析，確保所需要的人、機、環(huán)境三方面的多模態(tài)數(shù)據(jù)可基于同一時間軸進(jìn)行實時同步，消除事后對齊數(shù)據(jù)分析的負(fù)擔(dān)，并使數(shù)據(jù)“協(xié)同增效"，多角度綜合印證結(jié)果，確保數(shù)據(jù)結(jié)果的有效性與準(zhǔn)確性。ErgoAI人因智能應(yīng)用平臺，對接人機環(huán)境同步平臺所同步采集的多模態(tài)數(shù)據(jù)，搭建開放式AI算法應(yīng)用平臺，能夠為不同AI算法基礎(chǔ)的用戶，提供從數(shù)據(jù)采集、數(shù)據(jù)降噪、數(shù)據(jù)標(biāo)注、模型訓(xùn)練、模型評估及部署應(yīng)用的全流程智能化應(yīng)用系統(tǒng)。平臺可提供數(shù)千人次數(shù)據(jù)搭建的各類應(yīng)用數(shù)據(jù)集，涵蓋人員基數(shù)據(jù)集、狀態(tài)數(shù)據(jù)集等，以及數(shù)十種人因工程預(yù)訓(xùn)練模型，包括單模態(tài)狀態(tài)識別模型、多模態(tài)狀態(tài)識別模型等。同時，ErgoAI人因智能應(yīng)用平臺支持根據(jù)實際研究內(nèi)容與方向創(chuàng)建數(shù)據(jù)集、訓(xùn)練并驗證模型，并進(jìn)行模型部署與實時狀態(tài)預(yù)測。

(2) 實驗室示意圖

功能應(yīng)用

l 基于多人的人機環(huán)境多模態(tài)數(shù)據(jù)同步采集

l 基于多種虛擬現(xiàn)實場景

l 對接主流VR引擎

l 基于三維物體的AOI及SOI興趣區(qū)測評與分析

l 基于VR原型的多人人因測評與分析

ErgoLAB多模態(tài)同步方案：

整體概述

ErgoLAB人機環(huán)境同步平臺采用多模態(tài)數(shù)據(jù)時鐘同步技術(shù)，平臺可完成完整的實驗和測評流程，包括項目管理-試驗設(shè)計-同步采集-信號處理-數(shù)據(jù)分析-人因智能評估-可視化報告，支持基于云架構(gòu)技術(shù)的團(tuán)體測試和大數(shù)據(jù)管理。

ErgoLAB人機環(huán)境同步平臺采用主客觀結(jié)合多模態(tài)數(shù)據(jù)同步采集與多維度驗證的方法，數(shù)據(jù)實時同步種類包含大腦認(rèn)知數(shù)據(jù)（EEG/BCI腦電儀與腦機接口邊緣計算設(shè)備、fNIRS/BCI近紅外腦成像儀），視覺數(shù)據(jù)（Eyetracker眼動儀與視線交互系統(tǒng)），生理數(shù)據(jù)（生理儀含：GSR/EDA、EMG、ECG、EOG、HRV、RESP、TEMP/SKT、PPG、SpO2），行為觀察、肢體動作與面部表情（基本情緒、情緒效價、微表情等）數(shù)據(jù)、生物力學(xué)數(shù)據(jù)（拉力、握力、捏力、壓力…），人機交互數(shù)據(jù)（包含人機界面交互行為數(shù)據(jù)以及對應(yīng)的鍵盤操作，鼠標(biāo)點擊、懸浮、劃入劃出等；移動終端人機交互行為數(shù)據(jù)以及對應(yīng)的手指軌跡操作行為如點擊、縮放、滑動等；VR終端界面人機交互行為數(shù)據(jù)及對應(yīng)的雙手操作拾取、丟棄、控制，VR空間行走軌跡）、以及多類型時空行為軌跡數(shù)據(jù)采集(包括室內(nèi)、戶外、以及VR環(huán)境不同時空的行走軌跡、行車軌跡、訪問狀態(tài)以及視線交互、情感反應(yīng)、交互操作行為等數(shù)據(jù)實時同步采集)、以及作業(yè)空間及作業(yè)環(huán)境數(shù)據(jù)（溫度、濕度、噪音、光照、大氣壓、濕度、粉塵等）等客觀量化數(shù)據(jù)；為科學(xué)研究及應(yīng)用提供完整的數(shù)據(jù)指標(biāo)。

ErgoAI人因智能：

將人工智能技術(shù)引入人因工程研究工具，人因工程行業(yè)更加深度，使得實驗環(huán)境不會受限于某一種設(shè)備或數(shù)據(jù)指標(biāo)，采集分析不同典型行業(yè)或?qū)W科專業(yè)的人-機-環(huán)境系統(tǒng)交互過程中自然狀態(tài)下的人類行為數(shù)據(jù)，獲取更接近真實人員狀態(tài)的數(shù)據(jù)。平臺還提供覆蓋科研實驗全流程的功能模塊，包括項目管理、實驗設(shè)計、同步采集、數(shù)據(jù)分析、綜合統(tǒng)計和可視化報告，結(jié)合ErgoAI人因智能邊緣計算平臺為多模態(tài)人機環(huán)境研究提供一站式人因工程+人工智能解決方案。以ErgoLAB人機環(huán)境同步平臺和ErgoAI人因智能邊緣計算平臺為核心的多模態(tài)同步人因智能解決方案大大提高了實驗結(jié)果的信效度，同時節(jié)省了研究的人力、物力、時間，提高了研究與測評的整體效率。

基于ErgoAI人因智能多元時序算法底座與人因工程人機環(huán)境數(shù)據(jù)庫，構(gòu)建人員特定狀態(tài)的預(yù)訓(xùn)練模型，配合高靈活度的訓(xùn)練方案管理功能，用戶能夠在統(tǒng)一環(huán)境中高效構(gòu)建和優(yōu)化模型。 從而實現(xiàn)對人員狀態(tài)的精準(zhǔn)實時評估與預(yù)警，如負(fù)荷狀態(tài)、應(yīng)激狀態(tài)、疲勞狀態(tài)、情景意識和注意能力等。

Kingfar公司介紹：

北京津發(fā)科技股份有限公司是State-level專精特新重點小巨人，State-level知識產(chǎn)權(quán)優(yōu)勢企業(yè)、State-level high-tech enterprises、State-level科技型中小企業(yè)；旗下包含北京人因智能工程技術(shù)研究院和北京人因工程設(shè)計院等科技研發(fā)機構(gòu)，并聯(lián)合共建了北京市企業(yè)技術(shù)中心、北京本科高校產(chǎn)學(xué)研深度協(xié)同育人平臺、蘇州市重點實驗室、湖南省工程實驗室、山東省工程研究中心等多個科技創(chuàng)新平臺。

津發(fā)科技承擔(dān)和參與了多項國家重點研發(fā)計劃、Ministry of Industry and Information Technology高質(zhì)量發(fā)展專項、國家自然科學(xué)基金等State-level課題基金。擔(dān)任全國信標(biāo)委XR擴(kuò)展現(xiàn)實標(biāo)準(zhǔn)化組副組長單位，Ministry of Industry and Information Technology元宇宙標(biāo)準(zhǔn)化工作組關(guān)鍵技術(shù)組聯(lián)合組長單位；津發(fā)科技創(chuàng)新研發(fā)了國產(chǎn)化自主可控的人因工程與人因智能邊緣計算系列信創(chuàng)產(chǎn)品與技術(shù)，榮獲多項省部級科學(xué)技術(shù)獎勵；津發(fā)科技主持和參編國際/國家、行業(yè)/團(tuán)體標(biāo)準(zhǔn)20余項、榮獲30余項省部級新技術(shù)新產(chǎn)品認(rèn)證，The world申請patents超過500項、100余項國際和國家注冊商標(biāo)、130余項國家軟件著作權(quán)；已服務(wù)全國高等院校和裝備科技工業(yè)科研院所應(yīng)用示范，并已支撐國內(nèi)科研學(xué)者和科技工作者發(fā)表中英文學(xué)術(shù)論文超過1000篇。