Disclosed herein is method and system for determining quality of semen sample. Trajectories of objects, identified in each of plurality of image frames of semen sample, are generated by tracking movement of the objects across image frames, and compensating a drift velocity of the semen sample. Further, generated trajectories are classified into sperm and non-sperm trajectories. Finally, total concentration estimate and total motility estimate of the semen sample are computed to generate a semen quality index, which indicates quality of the semen sample. In an embodiment, the method of present disclosure uses a multi-level Convolutional Neural Network (CNN) analysis technique for effectively classifying the object trajectories into sperm and non-sperm objects. Also, since the present method includes estimating and compensating drift velocity in the semen sample, it enhances overall accuracy of motility estimation and semen quality analysis.La présente invention concerne un procédé et un système de détermination de la qualité d'un échantillon de sperme. Les trajectoires des objets, identifiés dans chaque trame d'image de la pluralité de trames d'image d'échantillon de sperme, sont générées par suivi du mouvement des objets à travers les trames d'image, et compensation d'une vitesse de dérive de l'échantillon de sperme. En outre, les trajectoires générées sont classées en trajectoires de sperme et de non-sperme. Enfin, l'estimation de concentration totale et l'estimation de motilité totale de l'échantillon de sperme sont calculées pour générer un indice de qualité du sperme, qui indique la qualité de l'échantillon de sperme. Dans un mode de réalisation, le procédé de la présente invention utilise une technique d'analyse de réseau neuronal convolutif multi-niveau (CNN) pour classer efficacement les trajectoires d'objet dans les objets sperme et non-sperme. Également, dans la mesure où le présent procédé comprend l'estimation et la compensation de la vitesse de dérive da