수어 영상

수어영상 AI데이터

Korean sign language dataset for vision basis AI development

구축목적
  • 한국수어 인식 인공지능 기술 및 서비스 개발에 활용 가능한 대규모 한국 수어 영상 데이터셋 구축
활용분야
  • 농인-청인 간의 커뮤니케이션 분야, 공공장소 안내 서비스 (병원, 지하철, 공항, 역사), 모바일 어플리케이션(한국어-한국수어 실시간 번역 시스템, 텍스트 입력 시스템) 등
주요 키워드
  • 인공지능(Artificial Intelligence), 데이터셋(Data Set), 수어영상(Sign Language Video), 기계학습(Machine Learning), 키포인트 검출(Keypoint Detection), 수어번역
소개
  • 길찾기/교통/주소와 관련된 한국수어와 지숫자, 지문자의 데이터를 영상 클립으로 생성하고, 영상으로부터 손에 대한 키포인트를 생성하여 총 536,000개의 영상데이터 구축을 목표로 함

img

 

구축 내용 및 제공 데이터량
  • 총 536,000 수어영상 클립(.mp4 파일) 
    - 수어문장 2000개, 수어단어 3000개, 지숫자/지문자 1000개에 대한 영상
    - 스튜디오 직접 촬영으로 언어제공자 20명에게서 5각도 동시 촬영한 수어문장/단어 영상(500,000 수어영상 클립)
    - 크라우드소싱 촬영으로 언어제공자 21명에게서 수집한 지수어 영상(21,000클립)
    - 아바타로 제작한 수어문장/단어 영상(15,000 클립)
  • 총 536,000 수어 영상에 대한 형태소 및 비수지 요소 가공값(json 파일)
  • 총 536,000 수어 영상에 대한 30fps 분할 이미지에 대한 keypoint 값(json 파일)
대표도면
수어영상

 

  • 데이터 항목 : 형태소비수지
  • json 형태:

{"0":
{"metaData":
{"url":"http://52.231.159.158
:[{"start":"1.694","end":"2.020","attributes":
[{"name":"화장실"}]}
,{"start":"2.027","end":"3.648","attributes":
[{"name":"있다","attribute":["의문사없는 의문형"]}]}]}}

img

 
 
영상에서 분활한 이미지

 

  • 데이터 항목 : 특징점(Keypoint) 좌표
    - Right hand (21)
    - Left hand (21)
    - Pose (25)
    - Face (68)
  • json 형태:

,"hand_left_keypoints_2d":
[1143.58,974.645,0.654592,1114.86,992.833,0.735167,1097.63,1027.29,0.826771,
1095.71,1060.8,0.792472,1097.63,1087.6,0.794426,1123.47,
1052.18,0.839221,1120.6,1091.43,0.734 
... (생략)
,"hand_right_keypoints_2d":
[732.281,968.632,0.606077,756.648,995.923,0.733027,773.218,
1033.94,0.846974,779.066,1072.92,0.688546,777.116,1098.27,0.535953,741.053,
 ... (생략)

img

 

필요성
  • 사회적 약자를 위한 기술의 연구 및 개발이 활발히 진행되고 있으며, 그에 따른 서비스 또한 확장되고 있음. 인공지능 기술을 통해 사회적 약자의 생활을 개선할 수 있는 방향으로 연구 분야가 지속적으로 확대 중임
  • 많은 수의 농인들은 한국어를 읽거나 이해하지 못하고 수어를 통해서만 의사소통이 가능한 경우가 대부분임. 농인들이 사회에서 다양한 활동을 하기 위해서는 한국어와 수어의 통역이 필요하며 시간과 공간에 제약이 없어야 함
  • 수어 인식 인공지능모델 개발 등을 통해 상기 문제에 대해 일부는 도움이 될 것으로 기대됨.
데이터 구조
특허 데이터 구축내용 표 (구축년도,데이터종류,포함내용,제공방식)
Keypoint 가공 Pose 25개 키포인트 각각의 x,y,confidence값
left hand 21개 키포인트 각각의 x,y,confidence값
right hand 21개 키포인트 각각의 x,y,confidence값
face 68개 키포인트 각각의 x,y,confidence값
형태소/비수지가공 구분 Tag Attributes 설명
Meta URL - 수어동영상 경로
Meta Duration - 수어동영상 전체 구간
Meta ExportedOn - json 다운로드 받은 날짜
data start - 해당 형태소 구간의 시작 시각
data end - 해당 형태소 구간의 종료 시각
data attributes name 해당 형태소의 표제어
data attribute 해당 형태소의 비수지 요소
데이터셋 구축 담당자
수행기관(주관) : 테스트웍스

 

 
책임자명 전화번호 대표이메일 담당업무
윤석원 02-420-51786 aiworks_data@testworks.co.kr · 데이터셋 수집 및 가공
· 저작도구 개발
· 모델 검증
· 시범서비스 ‘지하철 역사 안내 서비스’ 외 1종 개발
수행기관(참여)
 
 
기관명 담당업무 기관명 담당업무
나사렛대학교 · 수어 원천데이터 선정 및 정제
· 수어 영상 데이터 수집
이큐포올 · 가상데이터 생성 및 제공
· 아바타 서비스 생성
KAIST RCV · 데이터셋 활용한 모델 검증 한국농아인협회 · 데이터셋 수집
· 데이터셋 검수
논문 인용 정보