《International Journal of Computer Assisted Radiology and Surgery》:Enhanced self-supervised monocular depth estimation with self-attention and joint depth-pose loss for laparoscopic images
编辑推荐:
为解决腹腔镜手术中深度和姿态估计困难的问题,研究人员开展基于自注意力引导姿态估计和联合深度 - 姿态损失函数的自监督单目深度估计方法研究。结果显示该方法在多个指标上有提升,在计算效率和性能间取得平衡,对腹腔镜手术导航有重要意义。
在腹腔镜手术这个 “微观战场” 上,医生们面临着诸多挑战。腹腔镜手术凭借创伤小、恢复快等优势,成为现代外科手术的重要手段,但手术视野狭窄、深度感知困难却让医生们的操作难度大大增加。深度信息在计算机辅助手术系统中至关重要,它就像手术中的 “第三只眼”,能帮助医生精准定位、规划手术路径,还能助力虚拟和增强现实技术在手术培训中的应用。
然而,现有的深度估计方法在腹腔镜场景中却遭遇 “滑铁卢”。以往用于自动驾驶和静态场景的深度估计方法,依赖大量标注数据,可腹腔镜手术的图像有其独特性。器官表面光滑、纹理区域少,导致检测到的关键点稀疏,即使像素位置有明显偏移,光度误差也不明显;而且腹腔镜在狭小空间内复杂转动,微小的平移使相邻图像差异不明显,复杂的旋转更是增加了姿态预测的难度。这些都使得现有方法难以在腹腔镜图像深度估计中发挥良好作用,一些尝试引入辅助任务的方法,又增加了网络参数,对计算和存储资源要求过高,不利于临床应用。
为了突破这些困境,名古屋大学(Graduate School of Informatics, Nagoya University)的研究人员开展了一项关于腹腔镜图像深度估计的研究。他们提出了一种新颖且有效的自监督单目深度估计方法,该方法结合自注意力引导的姿态估计和联合深度 - 姿态损失函数,相关研究成果发表在《International Journal of Computer Assisted Radiology and Surgery》上。
研究人员在开展研究时,主要采用了以下关键技术方法:将自监督单目深度估计视为视图合成问题,构建深度估计模型和姿态估计模型;在姿态估计网络中引入自注意力机制,聚焦图像中的关键区域;提取特征图,计算特征度量损失(L f ? )、姿态损失(L p ? )等,并将这些损失结合成联合深度 - 姿态损失函数(L t o t a l ? ) 。实验采用 SCARED 和 Hamlyn 数据集,将数据集按 10:1 的比例划分为训练集和测试集。
下面来看具体的研究结果:
数据集及实验设置 :使用 SCARED 和 Hamlyn 数据集进行实验,将图像下采样到 320×256 像素。模型基于 PyTorch 库开发,采用 Adam 优化器,训练 30 个 epoch,学习率初始化为1 0 ? 4 ,15 个 epoch 后衰减为 0.1,训练批次大小为 12。
对比结果 :与多种现有方法对比,在 SCARED 数据集上,该方法绝对相对误差(Abs Rel)为 0.068±0.001 ,相比其他方法有显著提升;在 Hamlyn 数据集上,Abs Rel 为 0.154±0.001 ,同样表现出色。定性结果显示,该方法在不同腹腔镜场景中能生成平滑且误差低的深度图。
消融研究 :通过对自注意力块(SB)、特征度量损失函数(L f ? )和姿态损失函数(L p ? )三个组件的消融研究发现,每个组件都对方法的性能有贡献,当所有组件结合时,性能提升最为显著。
研究结论和讨论部分指出,该研究提出的方法在多个方面具有重要意义。从性能上看,与现有方法相比,该方法在 SCARED 和 Hamlyn 数据集上都有更好的表现,且计算效率更高,在减少网络参数的同时提升了性能,在计算效率和性能之间达到了良好的平衡。不过,该方法也存在一定局限性,在深度变化剧烈的区域,如手术器械边缘,容易产生较大误差。未来,研究人员将考虑实时手术场景中软组织的非刚性变换问题,尝试利用 3D 信息和时间信息进一步提升深度估计的准确性。这项研究为腹腔镜手术导航提供了更有效的深度估计方法,有望推动计算机辅助腹腔镜手术技术的发展,提高手术的精准度和安全性。
闂備胶鎳撻悘姘跺箲娴h櫣鐭堥柨鐕傛嫹
濠电偞鍨堕幐鎼侇敄閸緷褰掑炊閳规儳浜鹃柣鐔煎亰濡插湱鈧鎸哥€涒晝鈧潧銈搁弫鍌炴倷椤掍焦鐦庨梺璇插缁嬫帡宕濋幒妤€绀夐柣鏃傚帶杩濇繝鐢靛Т濞茬娀宕戦幘鎰佹僵鐎规洖娲ㄩ悾铏圭磽閸屾瑧顦︽俊顐g矒瀹曟洟顢旈崨顖f祫闂佹寧绻傞悧鎾澄熺€n喗鐓欐繛鑼额嚙楠炴﹢鏌曢崶銊ュ摵鐎殿噮鍓熼獮宥夘敊閻e本娈搁梻浣藉亹閻℃棃宕归搹顐f珷闁秆勵殕椤ュ牓鏌涢幘鑼槮濞寸媭鍨堕弻鏇㈠幢濡ゅ﹤鍓遍柣銏╁灡婢瑰棗危閹版澘顫呴柣娆屽亾婵炲眰鍊曢湁闁挎繂妫欑粈瀣煃瑜滈崜姘┍閾忚宕查柛鎰ㄦ櫇椤╃兘鏌ㄥ┑鍡欏ⅵ婵☆垰顑夐弻娑㈠箳閹寸儐妫¢梺璇叉唉婵倗绮氶柆宥呯妞ゆ挾濮烽鎺楁⒑鐠団€虫灁闁告柨楠搁埢鎾诲箣閿旇棄娈ュ銈嗙墬缁矂鍩涢弽顓熺厱婵炲棙鍔曢悘鈺傤殽閻愬弶鍠橀柟顖氱Ч瀵噣宕掑Δ浣规珒
10x Genomics闂備礁鎼崐鐟邦熆濮椻偓楠炴牠鈥斿〒濯爄um HD 闁诲孩顔栭崰鎺楀磻閹剧粯鐓曟慨妯煎帶閻忕姷鈧娲滈崰鎾舵閹烘骞㈡慨姗嗗墮婵啴姊洪崨濠傜瑨婵☆偅绮嶉妵鏃堝箹娴g懓浠㈤梺鎼炲劗閺呮粓鎮鹃柆宥嗙厱闊洤顑呮慨鈧┑鐐存綑濡粓濡甸幇鏉垮嵆闁绘ḿ鏁搁悡浣虹磽娴e憡婀版俊鐐舵铻為柛褎顨呯粈鍡涙煕閳╁啞缂氶柍褜鍏涚划娆撳极瀹ュ鏅搁柨鐕傛嫹
婵犵數鍋涘Λ搴ㄥ垂閼测晜宕查悗锝庡亞閳绘棃鎮楅敐搴″箺缂佷胶娅墂ist闂備線娼уΛ妤呮晝閿濆洨绠斿鑸靛姇濡ɑ銇勯幘璺轰粶缂傚秳绶氶弻娑㈠冀閵娧冣拡濠电偛鐗婇崢顥窱SPR缂傚倷鐒︾粙鎺楁儎椤栫偛鐒垫い鎺嗗亾妞わ缚鍗抽幃褔宕妷銈嗗媰闂侀€炲苯澧村┑鈥愁嚟閳ь剨缍嗛崜姘跺汲閳哄懏鍊垫繛鎴炵懃婵啴鏌涢弮鎾村
闂備礁鎲¢〃鍡椕哄⿰鍛灊闊洦绋掗崵鍕煟閹邦剦鍤熼柕鍫熸尦楠炴牠寮堕幋鐘殿唶闂佸憡鐟ュΛ婵嗩潖婵犳艾惟闁靛绲煎ù鐑芥煟閻樿京鍔嶇憸鏉垮暣閹儵鏁撻敓锟� - 婵犵數鍎戠徊钘夌暦椤掑嫬鐭楅柛鈩冡缚椤╂煡鏌涢埄鍐惧毀闁圭儤鎸鹃々鐑藉箹鏉堝墽绉甸柛搴㈠灥閳藉骞橀姘濠电偞鍨堕幖鈺傜濠婂啰鏆﹂柣鏃囨绾惧ジ鏌涢埄鍐闁告梹甯¢幃妤呭捶椤撶偘妲愰梺缁樼⊕閻熝囧箯鐎n喖绠查柟浼存涧閹線姊洪崨濠傜濠⒀勵殜瀵娊鎮㈤悡搴n唹濡炪倖鏌ㄩ悘婵堢玻濞戙垺鐓欓悹銊ヮ槸閸婂鎮烽姀銈嗙厱婵炲棙锚閻忋儲銇勯銏╁剶鐎规洜濞€瀵粙顢栭锝呮诞鐎殿喗鎮傞弫鎾绘晸閿燂拷
濠电偞鍨堕幐鎼侇敄閸緷褰掑炊椤掆偓杩濇繝鐢靛Т鐎氼噣鎯屾惔銊︾厾鐎规洖娲ゆ禒婊堟煕閻愬瓨灏﹂柟钘夊€婚埀顒婄秵閸撴岸顢旈妶澶嬪仯闁规壋鏅涙俊铏圭磼閵娧冾暭闁瑰嘲鎳庨オ浼村礃閵娧€鍋撴繝姘厸閻庯綆鍋勬慨鍫ユ煛瀹€鈧崰搴ㄥ煝閺冨牆鍗抽柣妯挎珪濮e嫰鏌f惔銏⑩姇闁告梹甯″畷婵嬫偄閻撳宫銉╂煥閻曞倹瀚�