A handheld user interface device for controlling a robotic system includes a housing, a housing disposed at least partially around the member and configured to be retained in a user's hand, and a housing disposed on the member and configured to detect at least one of a position and an orientation of at least a portion of the device And a tracking sensor system configured to detect the position of the track. At least one of the detected position of the portion of the device and the detected orientation of the portion of the device is correlatable with the control of the robotic system.로봇 시스템을 제어하기 위한 핸드헬드 사용자 인터페이스 디바이스는 부재, 부재 둘레에 적어도 부분적으로 배치되고 사용자의 손에 보유되도록 구성된 하우징, 및 부재 상에 배치되고 디바이스의 적어도 일부분의 위치 및 배향 중 적어도 하나를 검출하도록 구성된 추적 센서 시스템을 포함할 수 있다. 디바이스의 일부분의 검출된 위치, 및 디바이스의 일부분의 검출된 배향 중 적어도 하나는 로봇 시스템의 제어와 상관가능(correlatable)하다.