The present invention relates to an image processing device and method, a surgical system, and a surgery member, whereby the position or direction of a surgery member for performing surgery on a surgical subject can be conveniently ascertained. A microscope image (201) in which an image of a surgery member (121) inserted in a surgical subject is captured by a surgical microscope (112) is acquired, a relative orientation of the surgery member inside the surgical subject is estimated on the basis of the acquired microscope image (201), and orientation information (222, 223, 224) relating to the estimated orientation is outputted to an output unit. The present invention can be applied to ophthalmic surgery by observing an intraocular endoscope or a surgical instrument through use of a surgical microscope, for example.La présente invention concerne un dispositif et un procédé de traitement dimage, un système de chirurgie et un élément chirurgical, selon lesquels la position ou lorientation dun élément chirurgical destiné à réaliser une intervention chirurgicale sur un sujet peuvent être facilement déterminées. Une image de microscope (201), au moyen de laquelle une image dun élément chirurgical (121) inséré dans un sujet opéré est capturée par un microscope chirurgical (112), est obtenue, une orientation relative de lélément chirurgical se trouvant à lintérieur du sujet opéré est estimée à partir de limage de microscope acquise (201), et des informations dorientation (222, 223 224) relatives à lorientation estimée sont délivrées à une unité de sortie. À titre dexemple, la présente invention peut être appliquée à une intervention de chirurgie ophtalmique en permettant dobserver un endoscope intraoculaire ou un instrument chirurgical au moyen dun microscope chirurgical.本発明は、手術対象を手術する手術用部材の位置や方向を簡便に把握できるようにする画像処理装置および方法、手術システム並びに手術用部材に関する。 手術対象に挿入された手術用部材(121)を、手術顕微鏡(112)により撮影した顕微鏡画像(201)を取得し、取得された顕微鏡画像(201)に基づいて、手術対象内における手術用部材の相対的な姿勢を推定し、推定された姿勢に関する姿勢情報(222,223,224)を出力部に出