콘텐츠로 건너뛰기 메뉴로 건너뛰기 푸터로 건너뛰기
데이터를 불러오고 있습니다
데이터를 저장하고 있습니다
#자연어 #음성

NEW 생성형AI 라이브 스트리밍 영상 일본어 통번역 데이터

라이브 스트리밍 영상 일본어 통번역 데이터 아이콘 이미지
  • 분야한국어
  • 유형 오디오 , 텍스트
구축년도 : 2023 갱신년월 : 2024-12 조회수 : 1,891 다운로드 : 67 용량 :
샘플 데이터 ?

샘플데이터는 데이터의 이해를 돕기 위해 별도로 가공하여 제공하는 정보로써 원본 데이터와 차이가 있을 수 있으며,
데이터에 따라서 민감한 정보는 일부 마스킹(*) 처리가 되어 있을 수 있습니다.

※ 내국인만 데이터 신청이 가능합니다.

  • 데이터 변경이력

    데이터 변경이력
    버전 일자 변경내용 비고
    1.2 2024-12-04 서브라벨링 추가 개방
    1.1 2024-10-30 데이터 최종 개방
    1.0 2024-07-05 데이터 개방 Beta Version

    데이터 히스토리

    데이터 히스토리
    일자 변경내용 비고
    2024-07-15 데이터설명서, 구축활용가이드, 구축업체정보 수정 이메일 주소 변경
    2024-07-05 산출물 공개 Beta Version

    소개

    - 한국 콘텐츠 산업의 해외성장세에 발맞춰, 자연어를 기반으로 하는, 상황별 신조어, 약어, 은어, 관용적 의미와 어투까지 효과적으로 전달 가능한 인공지능 학습데이터 구축 및 모델 개발

    구축목적

    - 연구분야 및 산업분야에 부합하는 인공지능 기술 및 서비스가 실현 가능한 라이브 스트리밍 영상 영어 통번역의 성능 향상을 위한 인공지능 학습용 통번역 데이터 구축
  • - 데이터 구축 규모

    데이터 구축 규모
    데이터명 원천데이터 구분 원천데이터  라벨링데이터  서브
    구축량 구축량 라벨링
    001-003
    라이브
    스트리밍 영상 일본어 통번역
    데이터
    한국어-일본어 일상,소통 270,917 270,917 961
    여행 144,466 144,466
    게임 81,458 81,458
    경제 162,646 162,646
    교육 28,216 28,216
    스포츠 24,975 24,975
    라이브커머스 87,372 87,372
    음식,요리 267,031 267,031
    일본어-한국어 일상,소통 180,225 180,225 1,035
    여행 184,918 184,918
    게임 122,865 122,865
    패션,뷰티 228,870 228,870
    음식,요리 152,249 152,249

                                         표 4. 데이터 구축 규모

    데이터 구축 규모 그래프 이미지

                                            그래프 1. 데이터 구축 규모 그래프 이미지

     

    - 데이터 분포

    데이터 분포
    성별 분포
    speaker_gender COUNT 비율
    남성 1,222,699 62.94%
    여성 719,947 37.06%
    합계 1,942,646 100.00%

                                              표 5. 데이터 분포

    데이터 분포 그래프 이미지

                                            그래프 2. 데이터 분포 그래프 이미지

     

    - 데이터 클래스 분포 명세

    데이터 클래스 분포 명세
    데이터명 원천데이터 구분 구축 비율
    001-003 라이브 스트리밍 영상 일본어 통번역 데이터 한국어 일상,소통 20%
    여행 15%
    게임 15%
    경제 5%
    교육 5%
    스포츠 5%
    라이브커머스 15%
    음식,요리 20%
    일본어 일상,소통 20%
    여행 20%
    게임 20%
    패션,뷰티 20%
    음식,요리 20%

                                     표 6. 데이터 클래스 분포 명세

     

  • 저작도구 설명서 및 저작도구 다운로드

    저작도구 설명서 다운로드 저작도구 다운로드
  • AI 모델 상세 설명서 다운로드

    AI 모델 상세 설명서 다운로드 AI 모델 다운로드

    Transfomer model 이미지

                                                 이미지 1. Transfomer model

    - Wav2Vec2.0-XLSR
     ○ 개요
      - 여러 언어의 음성 파일로 단일 모델을 pre training
      - XLSR은 wav2vec2.0를 기반으로 하며, 숨겨진 음성 표현(latent speech representation)의 대비 작업(contrastive task)을 해결하여 학습하며 다국어 간에 공유되는 숨겨진 부분(latent shared)의 양자화(quantization)를 공통으로 학습
      - 모델은 레이블이 지정된 데이터로 세밀하게 조정

     ○ Fine tuning
      - model의 output layer 바로 위에 downstream task의 representing vocab을 이용해 결과값을 생성해 낼 수 있게 linear classifier layer를 결합해 CTC(Connectionist Temporal Classification) loss를 이용하여 파인 튜닝

     

    Fine tuning 이미지

                                                 이미지 2. Fine tuning

    - MBART
     ○ 개요
      - 다국어 데이터들을 denoising 방식으로 pretrained 된 모델이 번역 task에서 높은 성능을 보임을 입증함.
      - mBART는 encoder, decoder 혹은 reconstructing 부분에만 집중하던 이전의 연구들과는 다르게 다국어로 전체 텍스트를 denoising 하는 방법론을 제시함. 
      - 번역 task를 위한 fine tuning을 하기 위해 모델에 추가적인 작업 없이도 지도학습이던 비지도 학습이던 바로 fine tuning이 가능함.

  • 설명서 및 활용가이드 다운로드

    데이터 설명서 다운로드 구축활용가이드 다운로드

    - 데이터 구성

    데이터 구성
    메타 데이터 ID 필수
    여부
    형식
    콘텐츠 정보
    (contents)
    콘텐츠 아이디 contentsidx string
    라이브 스트리밍 출처 source string
    라이브 스트리밍 카테고리 category string
    저작권 solved_copyright string
    라이브 스트리밍 콘텐츠 언어 origin_lang string
    파일 정보
    (file)
    라이브 스트리밍 콘텐츠 원본 데이터 파일명 source_filename string
    라이브 스트리밍 콘텐츠 원본 데이터 파일주소 source_filepath string
    라이브 스트리밍 콘텐츠의 음성 추출 데이터 파일명 sound_filename string
    라이브 스트리밍 콘텐츠의 음성 추출 데이터 파일주소 sound_filepath string
    목소리 추출 데이터의 시작 시간 start_voice_time string
    목소리 추출 데이터의 종료 시간 end_voice_time string
    총 목소리 데이터 시간 duration_time string
    라이브 스트리밍 정보
    (live streaming)
    라이브 스트리밍 플랫폼 정보 platform_info string
    라이브 스트리밍 주제 subject   string
    총 발화자 명수 total_speaker_num string
    발화자 이름 speaker_name string
    발화자 성별 speaker_gender string
    발화자 나이 그룹 speaker_age_group string
    라이브 스트리밍 장소 정보 location string
    총 영상 길이 total_video_time string
    총 발화 길이 total_voice_time string
    전사 (transcription) 전사 텍스트 text string
    번역 (translation) 번역 언어 trans_lang string
    번역 텍스트 trans_text string
    역번역 언어 back_trans_lang string
    역번역 텍스트 back_trans_text string
    특수 언어 표현
    (special language expression)
    신조어 new_word   string
    축약어 abbreviation_word   string
    비속어 slang   string
    말실수 mistake   string
    재발화 again   string
    간투사 interjection   string
    환경 요소
    (enviroment)
    실외 outside string
    실내 inside string
    오전 day string
    오후 night string

                                            표 1. 데이터 구성

     

    - 어노테이션 명세

    어노테이션 명세
    주요 어노테이션 속성 속성 설명 비고
    콘텐츠 정보
    (contents)
    contentsidx 콘텐츠 아이디  
    source 라이브 스트리밍 출처  
    category 라이브 스트리밍 카테고리  
    solved_copyright 저작권  
    origin_lang 라이브 스트리밍 콘텐츠 언어  
    파일 정보
    (file)
    source_filename 라이브 스트리밍 콘텐츠 원본 데이터 파일명  
    source_filepath 라이브 스트리밍 콘텐츠 원본 데이터 파일주소  
    sound_filename 라이브 스트리밍 콘텐츠의 음성 추출 데이터 파일명  
    sound_filepath 라이브 스트리밍 콘텐츠의 음성 추출 데이터 파일주소  
    start_voice_time 목소리 추출 데이터의 시작 시간  
    end_voice_time 목소리 추출 데이터의 종료 시간  
    duration_time 총 목소리 데이터 시간  
    라이브 스트리밍 정보
    (live streaming)
    platform_info 라이브 스트리밍 플랫폼 정보  
    subject 라이브 스트리밍 주제  
    total_speaker_num 총 발화자 명수  
    speaker_name 발화자 이름  
    speaker_gender 발화자 성별  
    speaker_age_group 발화자 나이 그룹  
    location 라이브 스트리밍 장소 정보  
    total_video_time 총 영상 길이  
    total_voice_time 총 발화 길이  
    전사 (transcription) text 전사 텍스트  
    번역 (translation) trans_lang 번역 언어  
    trans_text 번역 텍스트  
    back_trans_lang 역번역 언어  
    back_trans_text 역번역 텍스트  
    특수 언어 표현
    (special language expression)
    new_word 신조어  
    abbreviation_word 축약어  
    slang 비속어  
    mistake 말실수  
    again 재발화  
    interjection 간투사  
    환경 요소
    (enviroment)
    outside 실외  
    inside 실내  
    day 오전  
    night 오후  

                                   표 2. 어노테이션 명세

     

    - 원문데이터 포맷 예시

    원문데이터 포맷 예시
    제목
    jp_일상소통 70
    화자 ないと
    연령대 10-30대 미만
    성별 여성
    장소 실내
    태그  
    원문
    重要なのは自分が自分に満足していることで
    전처리 후
    중요한 것은 자신이 자신에게 만족하고 있다는 것이고

                                      표 3. 원문데이터 포맷 예시

     

    - 실제 예시

     

    {

    "contentsIdx":"457",

    "source":"유튜브",

    "category":"일상,소통_jp_ca1",

    "solved_copyright":"플레이타운",

    "origin_lang_type":"JP_TO_KO",

    "origin_lang":"일본어",

    "contentsName":"jp_일상소통99",

    "fi_source_filename":"jp_일상소통99.mp4",

    "fi_source_filepath":"/data/ai_contents/일본어_한국어/jp_일상소통99",

    "li_platform_info":"플레이타운",

    "li_subject":"일본",

    "li_location":"일본",

    "fi_sound_filename":"457_734_11.07_12.73.wav",

    "fi_sound_filepath":"https://objectstorage.ap-seoul-1.oraclecloud.com/n/cnb97trxvnun/b/clive-resource/o/output/일본어_한국어/원천데이터/일상,소통/457/457_734_11.07_12.73.wav",

    "li_total_video_time":"1520.0",

    "li_total_voice_time":"1109.11",

    "li_total_speaker_num":"1",

    "fi_start_voice_time":"11.0749997364",

    "fi_end_voice_time":"12.7300005271",

    "fi_duration_time":"1.655000790699999",

    "tc_text":"まってたらえてください",

    "tl_trans_lang":"한국어",

    "tl_trans_text":"시작된거면 알려주세요.",

    "tl_back_trans_lang":"일본어",

    "tl_back_trans_text":"まったらえてください",

    "speaker_tone":"[]",

    "sl_new_word":[

     

    ],

    "sl_abbreviation_word":[

     

    ],

    "sl_slang":[ ],

    "sl_mistake":[ ],

    "sl_again":[ ],

    "sl_interjection":[ ],

    "place":"INDOOR",

    "en_outside":"X",

    "en_insdie":"O",

    "day_night":"NIGHT",

    "en_day":"X",

    "en_night":"O",

    "speaker_name":"せんちゃん",

    "speaker_gender_type":"WOMAN",

    "speaker_gender":"여성",

    "speaker_age_group_type":"TEENAGER_TO_THIRTIES",

    "speaker_age_group":"10-30대 미만"

    }

     
  • 데이터셋 구축 담당자

    수행기관(주관) : 아키아카
    수행기관(주관)
    책임자명 전화번호 대표이메일 담당업무
    이동훈 070-5226-1346 ldh@akiaka.co.kr 사업관리총괄, 데이터 정제, AI모델 개발
    수행기관(참여)
    수행기관(참여)
    기관명 담당업무
    부산외국어대학교 산학협력단 품질관리 및 데이터 검사
    이고에듀 데이터 정제 및 비식별화
    이창용어학원 데이터 가공(라벨링) 및 역번역
    인트리 원시데이터 수집 및 저작권 관리
    데이터 관련 문의처
    데이터 관련 문의처
    담당자명 전화번호 이메일
    이동훈 070-5226-1346 ldh@akiaka.co.kr
    이창규 070-5226-1346 lcg@akiaka.co.kr
    AI모델 관련 문의처
    AI모델 관련 문의처
    담당자명 전화번호 이메일
    현화수 070-5226-1346 reina@akiaka.co.kr
    양승준 070-5226-1346 black@akiaka.co.kr
    저작도구 관련 문의처
    저작도구 관련 문의처
    담당자명 전화번호 이메일
    이창규 070-5226-1346 lcg@akiaka.co.kr
    김대니 070-5226-1346 kdn@akiaka.co.kr
보건의료 데이터 개방 안내

보건의료 데이터는 온라인 및 오프라인 안심존을 통해 개방됩니다.

안심존이란 안심존 이용메뉴얼 안심존 이용신청
  • 인터넷과 물리적으로 분리된 온라인·오프라인 공간으로 의료 데이터를 포함하여 보안 조치가 요구되는 데이터를 다운로드 없이 접근하고 분석 가능
    * 온라인 안심존 : 보안이 보장된 온라인 네트워크를 통해 집, 연구실, 사무실 등 어디서나 접속하여 데이터에 접근하고 분석
    * 오프라인 안심존 : 추가적인 보안이 필요한 데이터를 대상으로 지정된 물리적 공간에서만 접속하여 데이터에 접근하고 분석

    1. AI 허브 접속
      신청자
    2. 안심존
      사용신청
      신청자신청서류 제출*
    3. 심사구축기관
    4. 승인구축기관
    5. 데이터 분석 활용신청자
    6. 분석모델반출신청자
  • 1. 기관생명윤리위원회(IRB) 심의 결과 통지서 [IRB 알아보기] [공용IRB 심의신청 가이드라인]
    2. 기관생명윤리위원회(IRB) 승인된 연구계획서
    3. 신청자 소속 증빙 서류 (재직증명서, 재학증명서, 근로계약서 등 택1)
    4. 안심존 이용 신청서 [다운로드]
    5. 보안서약서 [다운로드]
    ※ 상기 신청서 및 첨부 서류를 완비한 후 신청을 진행하셔야 정상적으로 절차가 이루어집니다.

  • 신청 및 이용관련 문의는 safezone1@aihub.kr 또는 02-525-7708, 7709로 문의

데이터셋 다운로드 승인이 완료 된 후 API 다운로드 서비스를 이용하실 수 있습니다.

API 다운로드 파일은 분할 압축되어 다운로드 됩니다. 분할 압축 해제를 위해서는 분할 압축 파일들의 병합이 필요하며 리눅스 명령어 사용이 필요합니다.

리눅스 OS 계열에서 다운로드 받으시길 권장하며 윈도우에서 파일 다운로드 시 wsl(리눅스용 윈도우 하위 시스템) 설치가 필요합니다.

※ 파일 병합 리눅스 명령어

find "폴더경로" -name "파일명.zip.part*" -print0 | sort -zt'.' -k2V | xargs -0 cat > "파일명.zip"

- 해당 명령어 실행 시, 실행 경로 위치에 병합 압축 파일이 생성됩니다.

- 병합된 파일 용량이 0일 경우, 제대로 병합이 되지 않은 상태이니 "폴더경로"가 제대로 입력되었는지 확인 부탁드립니다.

※ 데이터셋 소개 페이지에서 다운로드 버튼 클릭하여 승인이 필요합니다.