KETI 지능정보 플래그십 R&D

심리상담을 위한 멀티모달 데이터셋

외부 데이터는 해당 기관의 이용정책과 다운로드 절차를 따라야 하며 AI 허브와 관련이 없음을 알려 드립니다. [저작권 및 이용정책 상세보기]

구축량
  • 20~30대 남녀 50명을 모집하여 영상, 음성, 생체 신호 데이터를 취득
  • 1명당 1시간 30분 동안 실험을 진행하면서 데이터를 취득
  • 영상 데이터의 경우 1명당 40분 정도 취득
  • 음성 데이터의 경우 1명당 30분 정도 취득
  • 생체 신호 데이터의 경우 1명당 1시간 30분 정도 취득
대표 도면
1
<데이터 취득 실험 시나리오>
2
<데이터 취득 실험 장비 세팅>
3
<생체 신호 데이터 구성>

 

필요성
  • 국내 심리상담 챗봇 서비스의 활성화를 위해서는 기계학습에 활용할 수 있는 멀티모달 데이터 확보가 필요함
  • 스트레스 유발 인자나 스트레스를 받았을 때 보이는 신체 변화는 지역에 따라 다르므로 국내 특화 서비스를 위해 한국인을 대상으로 한 데이터셋 구축 필요
  • 사용자의 심리 상태 및 스트레스 모니터링 기술을 개발하기 위해서는 다양한 사람들의 다양한 스트레스 수준에서의 멀티모달 데이터가 필요함
  • 현재 스트레스 인식을 위해 공개된 데이터셋은 대부분 국외에서 구축된 데이터셋이며 그 중에 특히 영상, 음성, 생체 신호로 구성된 멀티모달 데이터셋은 없는 것으로 파악됨
  • 또한 딥러닝 모델 훈련에 적합한 양의 스트레스 데이터는 세계적으로 희귀함
구축 내용
  • 영상을 이용한 스트레스 인식을 위하여 20~30대 남녀 50명의 스트레스 및 비스트레스 상황에서의 영상 데이터를 취득함
  • 첫 번째 영상 시청, 한국어 대본 읽기, 한국어 인터뷰, 영어 대본 읽기, 영어 인터뷰, 총 5단계에 대해서 영상 데이터를 취득함
  • 각 단계를 시작할 때 영상 녹화를 시작하고 각 단계가 종료될 때 녹화를 종료하며 총 데이터 취득 시간은 40분 정도임
  • 영상 해상도는 1920 x 1080이고 저장 속도는 10fps 정도이며 파일 확장자는 jpg임
  • 피실험자의 개인 정보 유출을 막기 위하여 원본 영상을 공개하는 것이 아니라 원본 영상 속 피실험자의 얼굴이 미리 학습된 네트워크를 통과하여 나온 특징맵을 공개함
  • 음성을 이용한 스트레스 인식을 위하여 20~30대 남녀 50명의 스트레스 및 비스트레스 상황에서의 음성 신호를 취득함
  • 주어진 스크립트에 대한 발화 데이터(화자당 5분)와 인터뷰 데이터(화자당 약 10분)로 구성됨
  • 화자당 평균 발성시간 : 한국어 15분 / 영어 15분
  • 녹음형태 : 44.1kHz, headerless 32bit Linear PCM Mono 데이터
  • 녹음환경 : 조용한 환경에서 핀마이크로 녹음
  • 공개 시 원본 wav파일이 아닌 mel-spectrogram feature로서 제공
  • 스트레스 상황 하에서의 100명 한국인의 피부전도도, 광용적맥파, 피부 온도, 가속도계 정보를 수집
  • 실험 단계 별로 시작 시간과 끝 시간을 저장하고 각 단계의 스트레스 단계 정의
  • *gsr.csv 파일
    - 타임스탬프 (unix 시간, 단위는 초), 피부 전도도 값 형태
  • *bvp.csv 파일 
    - 타임스탬프 (unix 시간, 단위는 초), 광용적맥파 값 형태
  • *temp.csv 파일
    - 타임스탬프 (unix 시간, 단위는 초), 피부 온도 (손목 부분의 체온) 형태
  • *acc.csv 파일 
    - 타임스탬프 (unix 시간, 단위는 초), 착용 손목의 움직임에 따른 가속도계 값 형태
  • *_time.txt 파일
    - 전체 실험 과정 중 살펴보고자 하는 단계의 처음과 끝을 표기한 타임스탬프 모음
    - 전체 실험 과정을 촬영한 데이터는 생체신호밖에 없으므로 생체신호 데이터에 대해서만 유효함
    - 스트레스 안받음: 3~4, 9~10번째 타임스탬프 사이 구간
    - 스트레스 약하게 받음: 5~6번째 타임스탬프 사이 구간
    - 스트레스 강하게 받음: 11~12번째 타임스탬프 사이 구간 
데이터 구조
  • 영상 데이터의 경우 원본 jpg 영상 파일에서 얼굴 부분만 crop한 후 미리 학습한 네트워크를 통과시켜서 나온 특징맵을 npy 확장자 형태로 제공
  • 파일 형식 : A_B_C.npy
    - A: 데이터 취득 시간, 예) 20191113_170433
    - B: 실험자 코드 번호, 예) 001~050
    - C: 프레임 번호, 예) 00630
  • 음성 데이터 파일 형식 :: AAAAAA_BBB_C.npy
    - A :  실험 날짜, 예) 190930
    - B :  실험자 코드 번호 (001~050)
    - C : 음성 샘플 레이블 (script_kor / script_eng / interview_kor / interview_eng)
  • JSON 구조의 메타정보로 사람별 생체 정보 및 타임스탬프 정보 전달 (UTF-8)

{ "file_path": "P1_E_gsr.csv", 
  "id": 1, }
{ "file_path": "P1_E_bvp.csv", 
  "id": 1, }
{ "file_path": "P1_E_temp.csv", 
  "id": 1, }
{ "file_path": "P1_E_acc.csv", 
  "id": 1, }
{ "file_path": "P1_t.txt", 
  "id": 1, }

활용 예시
  • 챗봇 사용자의 스트레스 완화 : 챗봇 사용자의 스트레스 상태를 파악하여 스트레스가 심하다면 이를 완화시키는 방향으로 대화를 유도할 수 있음
  • 화자 인식 : 다양한 데이터가 화자별로 레이블링되어 있으므로 화자 인식에 활용 가능
Git-hub 바로가기

데이터 구축 담당자 표 (담당기관, 책임자명, 전화번호, 대표이메일)
담당기관 책임자명 전화번호 대표이메일
· · · ·
다운로드 폴더 구성정보

데이터 다운로드는 PC에서만 가능합니다.