微光像增强器与大尺寸CMOS的直接耦合

高天阳, 曹峰梅, 王霞, 崔志刚

高天阳, 曹峰梅, 王霞, 崔志刚. 微光像增强器与大尺寸CMOS的直接耦合[J]. 红外技术, 2021, 43(6): 537-542.
引用本文: 高天阳, 曹峰梅, 王霞, 崔志刚. 微光像增强器与大尺寸CMOS的直接耦合[J]. 红外技术, 2021, 43(6): 537-542.
GAO Tianyang, CAO Fengmei, WANG Xia, CUI Zhigang. Direct Coupling of Low Light Image Intensifier with Large Size CMOS[J]. Infrared Technology , 2021, 43(6): 537-542.
Citation: GAO Tianyang, CAO Fengmei, WANG Xia, CUI Zhigang. Direct Coupling of Low Light Image Intensifier with Large Size CMOS[J]. Infrared Technology , 2021, 43(6): 537-542.

微光像增强器与大尺寸CMOS的直接耦合

基金项目: 

国家重点研发计划项目 2019QY0902

详细信息
    作者简介:

    高天阳(1996-),男,河北廊坊人,硕士,主要从事微光夜视、图像处理方面的研究工作。E-mail:xiuchuan1115@foxmail.com

    通讯作者:

    崔志刚(1967-),男,河北石家庄人,研究员,博士,主要从事微光夜视光锥耦合等方面的研究工作。E-mail:forest508@163.com

  • 中图分类号: TN223, TN206

Direct Coupling of Low Light Image Intensifier with Large Size CMOS

  • 摘要: 通过将直径为40 mm的像增强器与全画幅尺寸CMOS直接耦合,对大尺寸直耦工艺进行了研究。针对使用透镜耦合制成的大尺寸ICCD/ICMOS体积大、光能损失大以及光锥耦合的器件莫尔条纹较多等问题提出采用直接耦合的工艺制作ICCD/ICMOS。文中研制的大尺寸ICMOS可获取更大视场内的信息,整机分辨率可达3800×1900 LW/PH,画面清晰,无明显莫尔条纹,结构紧凑,整机仅为手持数码相机大小,隐蔽性强,有利于在复杂环境中更准确、快速地获取目标信息。
    Abstract: The large size direct coupling technology was studied by coupling a 40 mm diameter image intensifier with a full-frame CMOS. To solve the problems of large-size ICCD/ICMOS made by lens coupling, such as large volume, large light energy loss, and large number of moiré fringes in optical cone coupling devices, a direct coupling process is proposed to make ICCD/ICMOS. The large-size ICMOS developed in this study can obtain more information in the field of view. The resolution of the entire device is up to 3600×1800, the picture is clear, there is no obvious moiré fringe, and the structure is compact. The entire device has the size of a handheld digital camera and has strong concealability, which is conducive to obtaining target information more accurately and quickly in a complex environment.
  • 在自然界中,哺乳类动物具有单眼视觉系统,即单孔径光学成像模型,其具有成像质量优、分辨率高等特性,除此之外,还有一种广泛存在于节肢类动物的复眼视觉系统,即多孔径光学成像模型,其具有小型化、智能化、短视距与视场大等优势,同时其对于运动目标有很高的检测灵敏度,其中类果蝇的复眼视觉系统的闪光融合临界频率约为96 Hz,而人类的单眼视觉系统约为24 Hz,类果蝇的复眼视觉成像速度约是人类的4倍,对于真实场景中的运动目标,类果蝇复眼视觉系统是“慢动作”成像系统[1],但类果蝇复眼的孔径尺寸与数值孔径小,使得其成像分辨率较低,即具有高灵敏度与低分辨率的特性,同时类果蝇复眼对光的强度、波长、颜色及偏振等特性都有较强的敏感性,国内外课题组为弥补单眼与复眼视觉系统各自的不足,利用单眼与复眼视觉系统的双方优势互补原则为避障导航、测距测速、医学成像、监控追踪与导弹精确制导等应用领域提供了有效解决方案[2-5]

    类果蝇复眼初期研究主要集中在生理结构与视觉神经方面,对生理结构与潜在视觉神经进行探索与发掘。1664年,意大利科学家Hodierna提出复眼的形状类似于草莓[6];1826年,德国生理学家Miiller提出复眼思想[7];1891年,德国生理学家Exner根据萤火虫复眼光学成像特性,提出复眼光学重叠模型[8];1958年,美国生理学家Hartline通过根据鲎复眼侧抑制神经特性,提出复眼侧抑制神经网络模型[9];1967年,澳大利亚生物学家Kirschfeld根据家蝇复眼神经特性,提出复眼神经重叠性理论[10];1971年,德国生物学家Kunze与Hausen对复眼的单眼晶锥进行了研究,提出晶锥折射率这一理论[11]

    类果蝇的复眼视觉神经是一个视觉不变、高度并行与多层神经节的信息处理模型[12],根据视觉信息的传输路径将类果蝇复眼视觉神经模型分为感光细胞的光电转换、视叶神经的加工处理与中央脑的认知抉择3个阶段,其中光电转换由感光细胞(Photoreceptors)完成,该阶段处于类果蝇复眼视觉神经模型前端,即视觉信息的采集;视觉信息加工处理由视叶神经完成,视叶神经由薄板层(Lamina)、髓质层(Medulla)与小叶复合体(Lobula Complex)组成,其中小叶复合体包括小叶(Lobula)与小叶板(Lobula Plate),该阶段处于类果蝇复眼视觉神经模型中端,即视觉信息的加工处理;认知抉择由中央脑完成,该阶段处于类果蝇复眼视觉神经模型后端,即视觉信息的认知抉择。类果蝇复眼视觉神经模型中感光细胞负责感知外界的视觉信息及光强变化,将光信息转换成电视觉信息,电视觉信息作为视叶神经的输入,对其进行加工处理并汇聚到腹外侧神经髓(Ventral Lateral Nerve Pulp, VLNP),最后到达中央脑神经系统(Central Brain Nervous System, CBNS),中央脑依据学习认知作出抉择,形成类果蝇复眼视觉神经模型的信息处理通路,即视觉信息采集-加工处理-认知抉择[13],整个类果蝇复眼视觉神经模型的通路图如图 1所示,类果蝇复眼视觉系统在其飞行捕食、认知抉择与躲避危险等方面起到重要作用[14]

    图  1  类果蝇复眼视觉神经模型的通路图[13]
    Figure  1.  Pathway diagram of the visual neural model in the Drosophila-like compound eye[13]

    综合上述,受类果蝇复眼的生理结构与视觉神经的启发,人工仿生复眼光学成像模型与复眼视觉神经网络模型成为视觉仿生学中两个重要研究分支,一是从类果蝇复眼生理结构方面进行视觉仿生,利用类果蝇复眼独特的生理结构,设计人工仿生复眼光学成像模型,并将其应用在光学工程等领域中;二是从类果蝇复眼视觉神经方面进行视觉仿生,仿视觉信息感知、加工处理与认知抉择,并将其应用于信息处理等领域中。本文分别从类果蝇复眼视觉神经计算建模的研究现状、典型仿生应用、发展趋势与挑战进行介绍,其中研究现状从人工仿生复眼模型、视觉信息的采集、视觉信息的加工处理、视觉信息的认知抉择4个部分进行阐述,典型仿生应用从军事与民用两个方面进行总结,发展趋势与挑战从类果蝇复眼视觉神经计算建模角度出发进行展望。

    类果蝇复眼视觉神经通路中视觉信息的采集、加工处理、认知抉择分别对应于图像/视频信息的采集、预处理、训练抉择3个阶段,对应关系如图 2所示,本章针对类果蝇复眼视觉神经通路的3个阶段的研究现状进行总结,其中人工仿生复眼光学模型包含在视觉信息的采集阶段中,作为视觉信息的采集设备。

    图  2  类果蝇复眼视觉神经通路与图像/视频信息处理对应关系图
    Figure  2.  Corresponding diagram between the visual pathway of the Drosophila-like compound eye and the image/video information processing

    类果蝇复眼视觉信息采集阶段包括仿复眼生理结构与感光细胞光电转换两个部分,复眼作为类果蝇的重要视觉器官,通过生理剖析可知,复眼的外形呈蜂窝状,向外凸起,单侧约有750~800个单眼,每个单眼呈六角形,成簇排列,单独成像,相邻单眼间的夹角约为5°,其视野在水平方向上可达315°,仅背后约45°的视野为视觉盲区,在垂直方向上可达全视场[15],类果蝇复眼的生理结构为建立人工仿生复眼光学模型提供了依据,类果蝇复眼生理结构示意图如图 3所示。

    图  3  类果蝇复眼生理结构示意图[16]
    Figure  3.  Physiological structure schematic diagram of the Drosophila-like compound eye[16]

    类果蝇复眼生理结构按照成像原理分为二大类:并列模型与重叠模型,并列模型复眼中单眼中的感光器相互隔离,主要分布在蜻蜓等生物中,每个单眼仅包含一个像素,每个感光器只能接收到一个屈光器的外界光线,而重叠模型复眼中单眼光学系统由感光器阵列呈块状分布,单眼相互协同工作,主要分布在蚊子等生物中,每个单眼包含7个像素,相同数目的单眼构成的复眼,重叠模型复眼所成像的分辨率比并列模型复眼要高。并列模型复眼与重叠模型复眼依据结构组成进一步划分,并列模型复眼分为简单并列模型、无聚焦并列模型与透明并列模型等小类,重叠模型复眼分为折射重叠模型、反射重叠模型、抛物线重叠模型与神经重叠模型等小类[17],其中最经典的是简单并列模型、折射重叠模型、反射重叠模型、抛物线重叠模型与神经重叠模型,其成像示意图如图 4所示,类果蝇复眼属于神经重叠模型。

    图  4  并列与重叠模型复眼光学成像示意图[18]
    Figure  4.  Schematic diagram of the parallel and the overlapping compound eye optical imaging[18]

    自从20世纪90年代以来,国内外课题组依据类果蝇复眼生理结构,对人工仿生复眼光学成像模型展开了众多研究,设计出与类果蝇复眼生理结构相仿的平面与曲面结构的人工仿生复眼光学成像模型,其中国外对于人工仿生复眼光学成像模型的研究起步较早,2001年,日本大阪大学Tanida课题组根据复眼生理结构设计了一种小型复眼成像TOMBO(Thin Observation Module by Bound Optics)模型,该系统是平面结构,主要由透镜阵列、分隔层与光电探测器3部分组成,其结构模型如图 5(a)所示[19];2004年,德国弗劳恩霍夫应用研究促进协会Duparre课题组根据同位复眼原理设计了一种同位复眼成像AACEO(Artificial Apposition Compound Eye Objective)模型,其成像模型如图 5(b)所示[20],同年Duparre课题组提出复眼簇眼结构理论,并将其应用在AACEO光学系统中,Duparre课题组后续于2007年在平面结构人工复眼光学成像模型的基础上,开发了曲面结构人工复眼光学成像模型,即SACE(Spherical Artificial Compound Eye)系统,其成像模型如图 5(c)所示[21];2013年瑞士洛桑联邦理工学院Hossein课题组设计并制作了仿生复眼成像模型PANOPTIC与高分辨率全景摄影机模型OMNI-R,该模型由上百个微透镜构成,微透镜分布在球形表面上,在透镜阵列后接探测器,形成整套仿生人工复眼光学成像模型,即图像采集-处理一体,其外形结构如图 5(d)所示[22]

    图  5  国外人工仿生复眼光学成像模型
    Figure  5.  Foreign artificial bionic compound eye optical imaging model

    国内对人工仿生复眼光学成像模型的研究起步较晚,1994年中国科学院生物物理研究所吴梅英课题组通过对萤火虫复眼进行计算建模,设计了一种不聚焦并列型与重叠型复眼光学模型,开启了国内研究人工仿生复眼光学成像模型的先河[23-25];2006年中国科学院长春光学精密机械与物理研究所张红鑫课题组设计出了两种曲面型重叠性人工仿生复眼结构,即单层与三层曲面透镜阵列,该光学成像模型被广泛用于探测器上,如图 6(a)(b)所示[26];2013年,中国科学院光电技术研究所曹阿秀课题组使用多个摄像头曲面排布组成大视场采集的复眼结构,如图 6(c)所示[27-28];2014年中国科学技术大学马孟超课题组也开展了复眼相关研究,设计了一种新颖的大视场、高灵敏度的复眼位标器[29];2015年,北京理工大学光电学院金伟其课题组通过对人工仿生复眼光学成像计算建模,并在此基础上设计了重叠型人工仿生复眼光学成像模型[30];2017年,长春理工大学光电学院付跃刚课题组设计了一种紧凑型复眼光学成像模型,并将其应用于目标检测追踪识别[31];2018年,天津大学精密仪器国家实验室房丰洲课题组研制出了一款大视场的人工仿生复眼光学成像模型,该模型通过使用曲面探测器阵列的方法来接收曲面透镜阵列的曲面图像信息[32];2020年,西安工业大学光电工程学院高明课题组设计了一种曲面大视场人工仿生复眼光学成像模型,在获取大视场的同时也满足了高分辨率要求[33]。国内除高校取得一系列仿生研究成果之外,仿生技术研究室也同样成果丰硕,中国科学院上海微系统与信息技术研究所仿生视觉系统实验室从事人工仿生视觉系统、类脑智能技术应用研究与云脑智能决策3个方面研究,主要成果包括仿生双眼视觉模型、仿生鹰眼视觉模型与仿生双目智能机器人模型,如图 6(d)~(f)所示。

    图  6  国内人工仿生复眼光学成像模型
    Figure  6.  Domestic artificial bionic compound eye optical imaging model

    类果蝇复眼是由大量单眼成簇排列组成,其中单眼由屈光器、感光器与隔光器3部分组成,其结构模式图如图 7所示,该部分主要针对感光细胞光电转换进行研究,其中屈光器由角膜与晶锥组成,主要功能是将光聚集到感光器上,其中角膜位于复眼的最外层,由角膜细胞分泌而成,起到透光与保护作用,晶锥位于角膜下方,由晶锥细胞分泌而成,起到聚光作用,相当于“凸透镜”,其形状随着光的强度变化而变化。感光器由视杆、小网膜细胞与基膜组成,主要功能是将光信息转换成电信息,即光-化学反应,其中视杆位于晶锥下方,每个视杆由8个感光细胞组成,记为R1~R8,8个感光细胞呈圆环状排列,其中R1~R6位于圆环状的外围,含视紫红质,负责感知大范围光谱的色觉,R7~R8位于圆环状的中间,含不同的视紫红质,R7对紫外光线敏感,R8对蓝绿光敏感,负责感知偏振光与色觉,每个感光细胞靠近圆心处有凸起,凸起由微绒毛构成,微绒毛接受光刺激后,微绒毛处的视紫红质转换成变视紫红质,从而激活了G蛋白,使得TRP/TRPL通道打开,产生光感电流,光感电流对不具有光敏性的胞体细胞形成刺激,从而其细胞膜上离子通道打开,产生离子电流,最终光感电流与离子电流融合得到电信息,该电信息即为视觉信息,小网膜细胞包围着视杆,基膜位于视杆的下方,起到3个方面作用:一是分隔单眼视网膜与视叶神经;二是机械性支撑单眼;三是将透入的光再次反射到视杆。隔光器主要由主、虹膜与网膜三种色素细胞组成,作用是调节进入单眼的光线,起到虹膜功能,其中主色素细胞与虹膜色素细胞位于晶锥周围,而网膜色素细胞位于视杆周围,通过挤压色素细胞达到调光的作用。中国南方医科大学吴楠课题组[34]与美国印第安纳大学Nie课题组[35]对类果蝇复眼中感光细胞的光-电转换进行了深入研究。

    图  7  类果蝇单眼的结构模式图[36]
    Figure  7.  Structural pattern diagram of the single eye in Drosophila-like[36]

    综上所述,类果蝇复眼视觉信息采集阶段主要针对复眼生理结构与感光细胞光-电转换两方面进行现状研究,一是利用复眼生理结构,设计出多种人工仿生复眼光学成像计算模型,同时随着微加工技术的不断提高,人工仿生复眼光学成像模型已趋于实用,主要应用于多孔径合成雷达、多孔径合成望远镜与基于多传感器的快速场景拼接等应用领域,随着对复眼生理结构的进一步深入研究,人工仿生复眼光学成像模型从性能上越来越趋向于真实复眼性能;二是以复眼中单眼为研究对象,对其中感光细胞的光-电转换机理进行了深入研究,对类果蝇复眼生理转换进行计算建模,模拟光-电转换过程。

    国内外课题组通过研究发现,类果蝇具有非常优秀的运动感知能力,能够对运动目标进行快速检测并做出响应,优秀的运动感知能力与类果蝇复眼视觉神经模型是密不可分的,其中类果蝇复眼在信息加工处理阶段采用3层视叶神经结构对视觉信息进行加工处理,视觉信息通过感光细胞获取后,R1~R8感光细胞神经元轴突聚成一束,传递给视叶神经进行加工处理,类果蝇复眼视叶神经的结构模式图如图 8所示,总共分为3层[37],其中Lamina表示薄板层,Medulla表示髓质层,Lobula表示小叶,Lobula Plate表示小叶板。

    图  8  类果蝇视叶神经的结构模式图[37]
    Figure  8.  Structural pattern diagram of the optic nerve in drosophila-like[37]

    视叶神经第一层是薄板层,R1~R6感光细胞神经元轴突在该层结束,其对运动信息敏感,R7~R8感光细胞神经元轴突穿过薄板层,到达视叶神经第二层髓质层,其对颜色信息敏感,2012年,英国生物学家Wardill课题组发现R7~R8感光细胞神经元同样对运动信息敏感[38]。类果蝇视野中的每一个像素对应于薄板层中的一个柱,即薄板柱,每个薄板柱包含9种细胞神经元,包括5种薄板单极细胞神经元(Lamina Monopolar Cells, LMCs),即L1~L5神经元,两种离心神经元(Centrifugal Cells, Cm),即C2与C3神经元,一种无长突神经元(Amacrine Cells, Am),一种跨髓质神经元(Transmedulla Cells, Tm),即T1神经元。

    视叶神经第二层是髓质层,R7~R8感光细胞轴突将视觉信息传递给髓质层,髓质层是整个视叶神经中最复杂的结构,共有10层,即为M1~M10,其中M1~M6层被称为“远端髓质层”,它接收来自R1~R8感受细胞与薄板层的输入,M7~M10层被称为“近端髓质层”,负责接收来自远端髓质层的视觉信息并进一步处理。LMCs神经元和R1~R8感受细胞分布在远端六层的一层或几层中。髓质层接收多个神经元的信息,根据这些神经元的连接方式,可以分为以下5类:固有髓质神经元(Intrinsic Medulla Cells, Mim)、跨髓质神经元(Transmedulla Cells, Tm)、Y型跨髓质神经元(Y Shaped Transmedulla Cells, TmY)、末稍髓质神经元(Distalmedulla Cells, Dm)与离心神经元(Centrifugal Cells, Cm),其中Mim神经元仅在髓质层中活动,Tm神经元连接髓质层与小叶复合体层,其中T1是连接薄板层与髓质层、T5神经元是连接小叶与小叶体,TmY、Dm神经元连接髓质层与小叶复合体层,Cm神经元连接薄板层与髓质层。

    视叶神经第三层是小叶复合体层,包括小叶和小叶板,是视叶神经的信息处理中心,小叶主要针对颜色视觉信息、光谱偏好和偏振光视觉信息进行处理,而小叶板主要针对运动信息进行处理,小叶主要由小叶柱状细胞神经元(Lobula Columnar Cells, LCm)组成,其信息投射到腹外侧神经髓处理,小叶板主要由小叶板切向细胞神经元(Lobula Plate Tangential Cells,LPTCs)组成,LPTCs的作用有两个方面,一是接收来自感受细胞神经元R1~R6的信息并整合在一起,投射到中央脑处理,二是接收来自跨髓质神经元T4和T5的输入信息,投射到腹外侧神经髓处理。

    综合上述,国内外课题组在揭示类果蝇视觉系统的潜在神经元与神经通路方面取得了突破性进展,类果蝇被认为是研究运动感知模型的最佳生物,但类果蝇的视叶神经回路错综复杂,仍然存在着许多未知功能的神经元。受类果蝇复眼视觉神经特性的启发,1956年,德国生物控制论研究所Reichardt课题组提出一种关联检测计算模型,即基本运动检测器(Elementary Motion Detectors, EMDs),如图 9(a)所示[39],随后在1989年德国生物控制论研究所Egelhaaf课题组在EMDs模型的基础上提出一种新型关联检测计算模型,即对称运动检测器,如图 9(b)所示[40-41];1995年,美国军事学院Missler课题组提出一种基于EMDs模型的四层神经网络计算模型并应用于目标检测追踪,如图 9(c)所示[42];1996年,英国新堡大学Rind课题组受蝗虫复眼视觉机制启发,提出了小叶巨型运动检测计算模型(Lobula Giant Movement Detectors, LGMDs),并在2013年,对LGMDs模型进行改进,如图 9(d)所示[43];同年,澳大利亚阿德莱德大学Wiederman课题组受复眼视觉机制启发,提出小目标运动检测计算模型(Small Target Movement Detectors, STMDs),如图 9(e)所示[44];后续国外课题组在此基础上提出许多优化与改进模型,并将其用在无人机、机器人与车辆领域,在此不再赘述。随着神经网络的快速发展,国内科研工作者同样围绕类果蝇复眼视觉神经的内部结构展开研究,建立了一系列视觉神经网络模型并探讨其应用,2008年以来,河海大学徐立中课题组针对类果蝇复眼视觉神经计算模型在运动微小目标的检测跟踪方面进行深入研究[45-46];2015年以来,贵州大学张著洪课题组针对类果蝇视觉神经计算建模在目标检测跟踪机理方面进行了深入分析,并将其应用在预警装置领域[47-49]。2020年,美国纽约大学Nikolaos Konstantinides课题组利用单细胞的转录组建立机器学习计算模型,验证了类果蝇视叶神经的多样性[50]

    图  9  类果蝇复眼运动神经网络模型的示意图
    Figure  9.  Schematic diagram of the movement neural network model in Drosophila-like compound eye

    国内外生物学家通过研究表明,类果蝇约有30万个神经元,按照神经元所处位置分为视叶神经、食管上神经节、食管下神经节及胸腹神经节4种类型,除视叶神经以外其它神经元组成了类果蝇的中央脑,研究表明类果蝇的中央脑神经系统“恰到好处”的复杂性,同时类果蝇在分子构成、信息传导与神经编码等方面与哺乳动物有高度的相似性,所以通过对类果蝇进行生理机理研究是一个有效研究哺乳动物的途径。2019年,Google AI官方宣布与霍华德·休斯医学研究所、哈佛大学合作[51],使用数千个张量处理器(Tensor Processing Unit, TPU)重建了类果蝇的大脑图谱,使得类果蝇的大脑被三维模拟重现,如图 10所示。从20世纪90年代开始,中国科学院生物物理研究所郭爱克课题组对类果蝇视觉认知进行长达30年的深入研究,类果蝇的中央脑结构组织纵截面图如图 11所示[52]

    图  10  类果蝇大脑三维模拟图[51]
    Figure  10.  Three-dimensional simulation diagram of the brain in Drosophila-like[51]
    图  11  类果蝇的中央脑结构纵截面图[52]
    Figure  11.  Longitudinal section diagram of the central brain structure in Drosophila-like[52]

    类果蝇复眼采集的视觉信息,其中包含了颜色、对比度、形状与运动等细节,类果蝇认知抉择是一种基于先前的知识与经验,权衡利弊得失,从可供选择的方案中选出最有利的方案,之前科研工作者一直认为认知抉择是灵长类生物区别于其他生物的最重要特征,但通过不断地深入研究,发现认知抉择并非是灵长类的“专利”。为了验证类果蝇的认知抉择能力,中国科学院生物物理研究所课题组利用两组实验进行验证:一是设置了由视觉目标颜色与形状构成的两难抉择环境,二是设置了由视觉目标重心高度与颜色构成的两难抉择环境,证明了类果蝇可以学习视觉模式的目标颜色与形状、目标重心高度与颜色双线索来指导定向飞行行为,当遇到错配时,类果蝇可以根据线索的相对“价值”的不同,做出非线性的“胜方全拿”的抉择,并能够根据目标突显程度对更复杂的环境做出抉择,进一步研究发现突变类果蝇的抉择能力受到损害,呈线性的“模棱两可”的抉择,同时在特定时间阻断中央脑中神经元的突触传递,发现类果蝇中央脑中的蘑菇体结构和多巴胺能神经系统的突触传递对这一抉择过程起决定性的作用,其中蘑菇体起到“门控”作用,多巴胺能神经系统起到“增益”作用[53]

    综合上述,目前国内外科研者使用神经网络模拟类果蝇中央脑的认知抉择,2018年,加拿大多伦多大学Schneider课题组利用卷积神经网络(Convolutional Neural Networks, CNN)计算模型模拟类果蝇的目标识别追踪和视觉学习能力[54];2020年,中国科学院生物物理研究所Zhao课题组使用脉冲神经网络(Spiking Neural Networks, SNN)计算模型模拟类果蝇的认知抉择,并应用在无人机中[55]

    在类果蝇复眼生理结构与类果蝇复眼视觉神经计算建模两个方面取得的理论成果支持下,仿生工程应用中也取得了一系列成果,本章从军事与民用两个领域进行总结。

    在军事方面的典型仿生应用包括偏振光导航仪[56]、空对地速度计[57]与导弹制导装置[58]等方面。

    首先借鉴类果蝇复眼生理结构与类果蝇复眼对偏振光敏感的特性进行计算建模得到偏振光导航仪,其在单眼相邻处布列有偏振方向差异的偏振片,然后将复眼偏振光导航仪系统向天空方向,随着太阳位置的改变,偏振光导航仪系统中偏振片明暗图案发生变化,由此可计算并得到偏振方向,从而进行定向导航,其结构示意图如图 12所示,主要应用在船舶航海系统、飞行器航天系统等领域。

    图  12  偏振光导航仪的原理示意图[56]
    Figure  12.  Principle schematic diagram of the polarized light navigator[56]

    然后借鉴类果蝇复眼视动反应机制的特性进行计算建模得到空对地计速仪,其利用目标在不同空间位置有相位差异原理进行计算建模,进一步计算目标在空间不同位置的相对速度与方向,其原理示意图如图 13所示,主要应用在地面防空预警系统、机载舰载系统等领域。

    图  13  空对地计速仪的原理示意图[57]
    Figure  13.  Principle schematic diagram of the air-to-ground speedometer[57]

    最后借鉴类果蝇复眼生理结构与类果蝇复眼视觉运动机制的特性进行计算建模得到导弹精确制导计算建模,即类果蝇复眼视觉运动机制由大场景(Large Field, LF)模型和小场景(Small Field, SF)模型两个独立的并行模型组成,都是基于初级运动检测器对运动信息的局域测量,完成不同特性的神经元整合,即一个多输入多输出的非线性模型。大场景模型对大场景连续运动目标敏感,对于图形背景相对运动的响应是膜电位的渐变过程,当背景正向运动对应于去极化输出,而反向运动对应于趋极化输出;小场景模型对于微小目标相对运动敏感,其输出的信息为尖峰脉冲响应,以表征目标被检测。将类果蝇复眼视觉运动机子应用到导弹精确制导装置中,大场景模型用于宏观地控制导弹的飞行路线,而小场景模型用于对运动微小目标运动的检测,进而实现目标检测跟踪,同时利用复眼及后面的视叶神经中央脑快速、准确地处理视觉信息,实时计算出视场范围内目标的方位及速度,并校正自己的飞行方向和速度,以便检测跟踪目标,同时结合类果蝇复眼大视场的特性,使导弹能够在大视角下进行目标检测追踪,综合上述,类果蝇复眼视觉神经计算建模在导弹精确制导装置中有很高的应用价值,其中复眼导弹制导装置如图 14所示,主要应用在防空导弹系统、机载系统等领域。

    图  14  复眼导弹制导装置[58]
    Figure  14.  Missile guidance device of the compound eye[58]

    在民用方面的典型仿生应用包括机器人避障导航[59]、医学成像设备[60]与监控检测追踪[61]等方面。

    首先借鉴类果蝇复眼视觉对于躲避危险高灵敏度的特性进行计算建模,将类果蝇复眼与机器人相融合,极大地提高机器人在多个领域的应用优势,由于目前机器人的导航技术主要应用于已知的环境中,而在未知的环境中,机器人自主导航与避障是亟需解决的难题,利用类果蝇复眼优秀的躲避危险特性,可提高机器人自主导航与避障能力,进而提高机器人控制系统的鲁棒性与完备性,安装在机器人上的CurvACE复眼模块如图 15所示。

    图  15  安装在机器人CurvACE复眼模块[16]
    Figure  15.  Installed in the CurvACE compound eye module of the robot[16]

    然后借鉴类果蝇复眼小型化与大视场的特性进行计算建模,可以实现医学成像设备的小型化与大视场化,同时能进一步实现三维成像,医检内窥镜与口腔镜是一种经体外进入体内的光学检测仪器,借助内窥镜与口腔镜,医生可以更清晰更细致地观察到动物体内的异常和病灶,同时传统的内窥镜与口腔镜所形成是二维图像,缺乏对深度信息的感知与视野受限,同时缺乏对内部组织结构的尺寸度量,针对上述问题,国内外课题组设计了一种扫描式医检复眼内窥镜与口腔镜,可得到三维图像和内部组织构造的尺寸测量,利于医生进一步诊断,适用于微创手术等应用场景,复眼医学成像设备的结构示意图如图 16所示。

    图  16  复眼医学成像设备的结构示意图[60]
    Figure  16.  Structure schematic diagram of the compound eye medical imaging equipment[60]

    最后借鉴类果蝇复眼视觉对于运动目标有很高的检测灵敏度的特性进行计算建模,将其应用于监控检测追踪领域,加强对目标的快速检测追踪,从而进一步完善视频监控等功能,提高检测追踪效率。微小目标快速检测追踪一直是目标检测追踪领域的难题,类果蝇复眼视觉神经可以在杂乱、伪装、复杂环境下快速精确地完成对微小目标的捕捉,首先通过压缩复眼数据采集量,然后使用类果蝇复眼神经计算建模快速对高速运动微小目标进行检测,最后利用类果蝇中央脑的认知实现了对微小目标的追踪抉择,目标检测追踪示意图如图 17所示。

    图  17  目标检测追踪示意图
    Figure  17.  Schematic diagram of the target detection and tracking

    当前类果蝇复眼视觉神经计算建模研究主要利用其在小型化、智能化、大视场成像、运动目标高检测灵敏度等方面的优势,解决对大视场监控、运动目标实时检测追踪、远距离目标定位等工程应用方面的难题,但需对场景视场范围、场景复杂性、多微小目标快速检测追踪、目标运动速度等方面加大研究深度,从而全面挖掘类果蝇复眼视觉神经计算建模的学术与应用价值,发展趋势与挑战主要包括以下3个方面。

    一是针对人工仿生复眼小型化大视场成像,如何实现曲面透镜阵列的小型化与曲面透镜阵列和探测器兼容问题是目前人工仿生复眼光学成像模型未来要解决的两大难题。

    二是针对单复眼智能化与高灵敏度,运动微小目标的实时检测追踪一直是目标检测追踪领域的难点,如何利用视叶神经对微小目标预加工处理,再利用中央脑对检测到的微小目标进行认知抉择是当前亟需解决的问题。当前无论是大尺寸目标或微尺寸目标,还是单运动目标或多运动目标,都真实存在三维真实场景空间,在一个三维真实场景空间中实时感知是单复眼视觉系统未来发展趋势,包括感知单/多运动目标平面与深度信息、场景复杂性以及目标运动速度的度量。

    三是针对双复眼视觉信息处理,类果蝇在真实场景中是双复眼视觉,双复眼视觉主要针对大视场成像处理,大视场成像处理面临的最主要问题是计算复杂度与检测追踪准确率,同时可以摆脱微型人工复眼的约束,由摄像机拼接构造具有大视场域的复眼摄像视频采集系统,视频拼接算法的计算复杂度与大视场域前提下运动单/多微小目标检测追踪是未来需要解决的难题,也是未来面临的一项挑战。

    本文以类果蝇复眼视觉神经计算建模为对象,对其研究现状、典型应用、发展趋势与挑战3个方面进行阐述,首先从人工仿生复眼、视觉信息的采集、视觉信息的加工处理、视觉信息的认知抉择4个部分分别介绍类果蝇复眼视觉神经计算建模研究现状;然后阐述了类果蝇复眼视觉神经计算模型在军事与民用领域上的典型仿生应用,一是军事仿生应用包括偏振光导航仪、空对地速度计与导弹精确制导装置等,二是民用仿生应用包括机器人避障导航、医学成像设备与监控追踪等;最后从类复眼复眼视觉神经计算建模出发对未来发展趋势与挑战进行展望,主要包括3个方面,一是人工仿生复眼小型化大视场成像,二是单复眼智能化与高灵敏度,三是双复眼视觉信息处理。

  • 图  1   光锥耦合ICCD/ICMOS成像系统中的莫尔条纹以及干涉条纹

    Figure  1.   Moire fringes and interference fringes in ICCD/ICMOS fiber optic taper coupling imaging systems

    图  2   像增强器与CCD/CMOS耦合方式示意图

    Figure  2.   Schematic diagram of coupling mode between image intensifier and CCD/CMOS

    图  3   CMOS的激光开窗

    Figure  3.   CMOS laser windowing

    图  4   像增强器荧光屏微观图

    Figure  4.   Microscopic view of image intensifier screen

    图  5   像增强器实物图与打磨过程图

    Figure  5.   Photo and polishing process diagram of image intensifier

    图  6   直耦器件实物图

    Figure  6.   Photo of direct coupled device

    图  7   镜头卡口截圈示意图

    Figure  7.   Schematic diagram of lens mount

    图  8   微光夜视相机整机图

    Figure  8.   Photo of low light night vision camera

    图  9   微光夜视器件的分辨力测试图像

    Figure  9.   Resolution test image of LLL night vision device

    图  10   整机分辨力测试图像

    Figure  10.   Resolution test image of whole device

    图  11   全画幅与半画幅拍摄画面对比

    Figure  11.   Full frame and half frame photo contrast

    表  1   耦合器件的主要参数

    Table  1   The main parameters of the coupler

    Main parameters of CMOS
    Chip size Silent frame
    (35.6 mm×23.8 mm)
    Effective pixels 24 million
    Video-capture 4K/60P, 50P
    Main parameters of image intensifier
    Screen diameter 40 mm
    Radiation sensitivity(2856K) 790 mA/W
    Signal noise ratio 23
    Central resolution 60 lp/mm
    Luminance gain 9782 cd/m2/lx
    Maximum output brightness 6.4 cd/m2
    Equivalent background brightness 1.4×10-9 lx
    下载: 导出CSV
  • [1] 白廷柱. 光电成像技术与系统[M]. 北京: 电子工业出版社, 2016.

    BAI Tingzhu. Photoelectric Imaging Technology and System[M]. Beijing: Electronic Industry Press, 2016.

    [2]

    PROXITRONIC Detector Systems GmbH. Image- intensifier- general- information[EB/OL][2011-07-21]. www.proxitronic.de.

    [3] 金伟其, 陶禹, 石峰, 等. 微光视频器件及其技术的进展[J]. 红外与激光工程, 2015, 44(11): 3167-3176. https://www.cnki.com.cn/Article/CJFDTOTAL-HWYJ201511001.htm

    JIN Weiqi, TAO Yu, SHI Feng, et al. Progress of low-light video device and its technology[J]. Infrared and Laser Engineering, 2015, 44(11): 3167-3176. https://www.cnki.com.cn/Article/CJFDTOTAL-HWYJ201511001.htm

    [4] 王红球. 用于生物探测的制冷型ICCD系统[D]. 北京: 清华大学, 2007.

    WANG Hongqiu. Refrigerated ICCD System for Biological Detection[D]. Beijing: Tsinghua University, 2007.

    [5] 闫晓梅, 王志社. 基于光锥耦合的X射线像增强器[J]. 光学学报, 2010(5): 1478-1482. https://www.cnki.com.cn/Article/CJFDTOTAL-GXXB201005051.htm

    YAN Xiaomei, WANG Zhishe. X-ray image intensifier based on optical cone coupling[J]. Acta Opticasinica, 2010(5): 1478-1482. https://www.cnki.com.cn/Article/CJFDTOTAL-GXXB201005051.htm

    [6] 崔志刚. ICCD光锥耦合技术研究及性能分析[D]. 北京: 北京理工大学, 2008.

    CUI Zhigang. Research and Performance Analysis of Optical Cone Coupling Technology of ICCD[D]. Beijing: Beijing Institute of Technology, 2008.

    [7]

    PROXITRONIC Detector Systems GmbH. Intensified CCDs with Direct Fiber Optical Coupling[EB/OL][2011-07-21]. www.proxitronic.de.

    [8] 朱广亮. ICCD系统耦合工艺研究与结构设计[D]. 北京: 北京理工大学, 2016.

    ZHU Guangliang. Research and Structure Design of ICCD System Coupling Process[D]. Beijing: Beijing Institute of Technology, 2016.

    [9] 张宇. ICCD/ICMOS莫尔效应及其影响研究[D]. 北京: 北京理工大学, 2018.

    ZHANG Yu. Study on ICCD/ICMOS Mohr Effect and its Influence[D]. Beijing: Beijing Institute of Technology, 2018.

    [10] 俞斯乐, 郭福云, 李桂苓, 等. 电视原理[M]. 北京: 国防工业出版社, 1984.

    YU Sile, GUO Fuyun, LI Guiling, et al. Television Principles[M]. Beijing: National Defense Industry Press, 1984.

  • 期刊类型引用(2)

    1. 徐梦溪,施建强,郑胜男,韩磊. 模拟复眼视叶神经网的目标运动方向检测模型. 智能系统学报. 2024(03): 546-555 . 百度学术
    2. 章盛,郑胜男,沈洁,殷兴辉,徐立中. 果蝇嗅视神经通路研究综述. 电子与信息学报. 2024(06): 2335-2351 . 百度学术

    其他类型引用(0)

图(11)  /  表(1)
计量
  • 文章访问数:  513
  • HTML全文浏览量:  183
  • PDF下载量:  118
  • 被引次数: 2
出版历程
  • 收稿日期:  2020-09-13
  • 修回日期:  2020-10-24
  • 刊出日期:  2021-06-19

目录

/

返回文章
返回