Provided is a method for surgical action recognition based on learning. The method comprises steps of: obtaining a surgical image sequence; performing deep learning-based learning based on loss information about the surgical image sequence; and recognizing a surgical action about the surgical image sequence based on the learning. According to the present invention, it is possible to more accurately recognize the surgical action in the surgical image.학습 기반 수술동작 인식 방법이 제공된다. 상기 방법은 수술영상 시퀀스를 획득하는 단계, 상기 수술영상 시퀀스에 대해 손실(loss) 정보를 기초로 딥러닝 기반의 학습을 수행하는 단계, 및 상기 학습을 기초로 상기 수술영상 시퀀스에 대한 수술동작을 인식하는 단계를 포함한다.