光场成像所采取的技术路线包括:基本变换计算、数据优化处理、显示与应用。由此而产生对光学信号处理新的思考方式,开创了在相空间中(对光信号)进行操作的先河,为计算光学与传感指明了激动人心的前景。美国达特茅斯学院 Markus Testorf教授(OSA Fellow)在同期Nature Photonics上发表成果评论。对应产品光场相机具有高空间分辨率、多个焦平面,可应用于工业检测和医学观测。
光场成像中的相位恢复技术:基于小孔对二维光场进行自动栅格扫描,设计建立了同时记录光场每个局部区域的空间与空间频谱分布的四维相空间测量技术, 首次在相空间中对相干与部分相干光的非线性传播进行实验研究。通过用空间光调制器动态调控光场局部相位的频谱形状和宽度,实现对光场相干性的局部操控,获得空间相干性具有涡旋状分布的光场。
高光谱成像技术在理论上通过斯涅耳定律推导光谱成像公式、光路可逆原理推导最优空间分辨率,同时考虑光谱分布和辐射度失真的校正方法,实现高光谱分析。相关成果发表在多个国际知名会议,包括ICCP’11、IJCV’13、PAMI’11、OL’13等,并已公开发表专利多达7项。研制的PMIS光谱视频系统,可达到实时视频采集及5nm的光谱分辨率。对应产品高光谱分析仪具有高光谱分辨率和空间分辨率,可应用于对地观测和环境监测。
采用透镜级联多尺度采集的方法,计算合成实现十亿像素。相关成果已公开发表专利两项:1)十亿像素视频采集装置,专利公开号CN103279940
A;2)十亿像素高动态范围图像重建与显示的方法, 专利公开号CN103487145
A。对应产品十亿像素相机具有超高空间分辨率,空间分辨率10亿,数据量2PB,可应用于安全反恐和医学观测。
动态光场计算利用摄像机阵列获得多视点、变光照视频图像,计算生成对象形状、光照、运动等信息,实现动态场景的三维重建。研究院研制了国内首个多光照全景动态光场系统,可实现自由视点、变光照、任意运动的无标记场景捕捉、三维重建与绘制。多视图三维重建算法在由美国自然科学基金委、微软研究院、美国Middlebury大学支持的国际评测中精确度排名第一、完整度排名第三。发表国际期刊与会议论文21篇,获授权发明专利6项,软件著作权1项,成果可应用于影视制作、游戏动漫、竞技体育分析、文物保护及航空航天等。
研制国内首个多光照全景动态光场系统,设计了分布式光照—摄像机采集同步控制电路,实现了实时变光照环境下场景对象的真实感再现功能。
提出了基于变分深度图的多视图三维重建方法,并对其进行多光照信息融合,获得动态三维对象表面细节的精确重建,发布相关数据库。
提出了基于多视角视频分割的多对象运动跟踪与表面重建方法,解决了多人体紧密交互下的运动捕获与三维重建难题。
交互式平面视频立体转换结合部分的人机交互,对单路平面视频实现影视级的立体转换。通过关键帧自动提取和交互式对象精确分割,建立深度传播模型,进行深度赋值与推演,生成高质量的立体视频内容。发表国际期刊和会议论文12篇,获授权发明专利9项,软件著作权1项,牵头申报、撰写《二维与三维信号兼容转换技术要求》等立体视频相关的国家标准、行业标准。成果应用于上海世博会、上海工博会、西部文化产业博览会等。
自动平面视频立体转换对单路平面视频的光照、纹理、颜色、运动等特征进行分析,建立场景空时光映射关系,自动提取深度信息,实时生成具有高沉浸感的立体视频。开发实现自动平面视频立体转换实时软件平台,应用于立体影视内容制作及播放,并已授权商用;研制了“清立方”立体视频转换芯片及配套产品,可广泛应用于电视、机顶盒、手机等各类终端。
立体视频编码通过帧内预测、帧间运动补偿与视差补偿以及空频变换等技术,去除立体视频空间、时间、视点间的冗余信息,有效降低传输带宽,是端到端立体视频传输的核心技术。针对立体视频数据存储量大、网络传输不稳定等问题,提出空-时-视间联合预测编码和协作式视频通信方法,建立三维重构率失真估计模型,实现鲁棒高效的立体视频编码与传输。该技术可广泛应用于立体电视传输、海量影视内容存储、立体视频会议、移动立体视频通讯等。发表国际期刊及会议论文12篇,获授权发明专利11项,2项提案被国际标准MPEG接受。
立体渲染与显示是将采集、制作得到的立体内容,通过立体显示设备,呈现出具有高度真实感与沉浸感的立体视频。针对各类立体显示设备在成像原理、显示空间分辨率、时间分辨率、处理能力的不同特性,研究自适应高效渲染优化算法,并开发了立体图文包装系统,为不同显示终端立体播放提供完整的解决方案。发表国际期刊与会议3篇,获授权发明专利2项,软件著作权1项。
使用普通摄像头,捕捉用户表情,并实时迁移到动画模型上,为用户带来非凡的聊天体验。
该技术可应用于普通pc聊天,手机通讯软件。
2013年游戏产业市场规模超过750亿人民币。
利用摄像头捕捉玩家表情及肢体动作,实时映射到游戏角色上,给玩家带来不一样的游戏体验。
该设备主要应用于生物医学领域的肿瘤病理、神经病理、神经生理研究