수어영상 AI데이터

Korean sign language dataset for vision basis AI development

• 한국수어 인식 인공지능 기술 및 서비스 개발에 활용 가능한 대규모 한국 수어 영상 데이터셋 구축

• 농인-청인 간의 커뮤니케이션 분야, 공공장소 안내 서비스 (병원, 지하철, 공항, 역사), 모바일 어플리케이션(한국어-한국수어 실시간 번역 시스템, 텍스트 입력 시스템) 등

• 인공지능(Artificial Intelligence), 데이터셋(Data Set), 수어영상(Sign Language Video), 기계학습(Machine Learning), 키포인트 검출(Keypoint Detection), 수어번역

• 길찾기/교통/주소와 관련된 한국수어와 지숫자, 지문자의 데이터를 영상 클립으로 생성하고, 영상으로부터 손에 대한 키포인트를 생성하여 총 536,000개의 영상데이터 구축을 목표로 함

• 총 536,000 수어영상 클립(.mp4 파일) 
  - 수어문장 2000개, 수어단어 3000개, 지숫자/지문자 1000개에 대한 영상
  - 스튜디오 직접 촬영으로 언어제공자 20명에게서 5각도 동시 촬영한 수어문장/단어 영상(500,000 수어영상 클립)
  - 크라우드소싱 촬영으로 언어제공자 21명에게서 수집한 지수어 영상(21,000클립)
  - 아바타로 제작한 수어문장/단어 영상(15,000 클립)
• 총 536,000 수어 영상에 대한 형태소 및 비수지 요소 가공값(json 파일)
• 총 536,000 수어 영상에 대한 30fps 분할 이미지에 대한 keypoint 값(json 파일)

수어영상

• 데이터 항목 : 형태소비수지
• json 형태:

{"0":
{"metaData":
{"url":"http://52.231.159.158
:[{"start":"1.694","end":"2.020","attributes":
[{"name":"화장실"}]}
,{"start":"2.027","end":"3.648","attributes":
[{"name":"있다","attribute":["의문사없는 의문형"]}]}]}}

영상에서 분활한 이미지

• 데이터 항목 : 특징점(Keypoint) 좌표
  - Right hand (21)
  - Left hand (21)
  - Pose (25)
  - Face (68)
• json 형태:

,"hand_left_keypoints_2d":
[1143.58,974.645,0.654592,1114.86,992.833,0.735167,1097.63,1027.29,0.826771,
1095.71,1060.8,0.792472,1097.63,1087.6,0.794426,1123.47,
1052.18,0.839221,1120.6,1091.43,0.734 
... (생략)
,"hand_right_keypoints_2d":
[732.281,968.632,0.606077,756.648,995.923,0.733027,773.218,
1033.94,0.846974,779.066,1072.92,0.688546,777.116,1098.27,0.535953,741.053,
 ... (생략)

• 사회적 약자를 위한 기술의 연구 및 개발이 활발히 진행되고 있으며, 그에 따른 서비스 또한 확장되고 있음. 인공지능 기술을 통해 사회적 약자의 생활을 개선할 수 있는 방향으로 연구 분야가 지속적으로 확대 중임
• 많은 수의 농인들은 한국어를 읽거나 이해하지 못하고 수어를 통해서만 의사소통이 가능한 경우가 대부분임. 농인들이 사회에서 다양한 활동을 하기 위해서는 한국어와 수어의 통역이 필요하며 시간과 공간에 제약이 없어야 함
• 수어 인식 인공지능모델 개발 등을 통해 상기 문제에 대해 일부는 도움이 될 것으로 기대됨.

수행기관(주관) : 테스트웍스

수행기관(참여)