AI-Hub

#자연어

LLM 학습용 데이터 내 유해표현 검출 AI모델 학습용 데이터

분야미분류
유형 텍스트
생성 방식LLM

구축년도 : 2024 조회수 : 207 다운로드 : 5 용량 :

※ 내국인만 데이터 신청이 가능합니다.

LLM 학습용 데이터 내 유해표현 검출 및 유해카테고리 분류 모델 학습을 위한 데이터
 - stage1(유해표현 검출) 모델 학습용 자연어 데이터
 - stage2(유해 카테고리* 분류) 모델 학습용 자연어 데이터
    * 유해 카테고리(11종) : 모욕, 욕설, 외설, 장애, 인종/지역, 연령, 종교, 정치성향, 직업, 성혐오, 폭력위협/범죄조장

구축목적

LLM 학습용 데이터 내 유해표현 검출 AI 모델 학습

메타데이터 구조표
데이터 영역	미분류	데이터 유형	텍스트
데이터 형식	csv	데이터 출처	오픈데이터(Selectstar 한국어 혐오표현 분류(탐지) 데이터셋, K-MHas 데이터), AIHub 데이터(AIHub 온라인 구어체 말뭉치 데이터, AIHub 지식그래프-투-텍스트 데이터)
라벨링 유형	자연어(텍스트)	라벨링 형식	csv
데이터 활용 서비스	LLM 학습용 데이터 내 유해표현 검출 AI 모델 학습	데이터 구축년도/ 데이터 구축량	2024년/문장 414,249건(csv 2건)

1. 유해표현 검출 AI 모델 학습용 데이터
- 총 200,000 문장

유해표현 검출 AI 모델 학습용 데이터
클래스	유해표현	비유해표현
문장 수량	100,000	100,000

2. 유해 카테고리 분류 AI 모델 학습용 데이터
- 총 214,294 문장

유해 카테고리 분류 AI 모델 학습용 데이터
클래스	유해표현		비유해표현
문장 수량	114,249	모욕: 30,196	100,000
		욕설: 13,756
		외설: 2,376
		장애: 1,792
		인종/지역: 13,052
		연령: 7,836
		종교: 2,812
		정치성향: 22,594
		직업: 6,073
		성혐오: 9,335
		폭력위협/범죄조장: 4,427

AI 모델 상세 설명서 다운로드

AI 모델 상세 설명서 다운로드 AI 모델 다운로드

1. 유해표현 검출 AI 모델 학습용 데이터
[학습]
- 베이스라인 모델* 기반 전이학습 수행
* KoBERT-Medium, KcElectra, KoElectra
KoBERT-Meduim: MLM(Masked Language Model) 방식으로 학습하는 Transformer 계열 “BERT”모델 기반으로 SKT에서 개발한 한국어 데이터셋 사전 학습 모델
KoElectra: RTD(Replaced Token Detection) 방식으로 학습하는 Transformer 계열 “ELECTRA” 모델 기반으로 Kakao brain에서 개발한 한국어 데이터셋 사전 학습 모델
KcElectra: KoElectra에 한국어 댓글 데이터셋을 추가하여 구어체에 적합하도록 사전 학습된 모델
- 구축한 데이터의 80%를 학습에 사용
- AI Task: 이진분류
[테스트]
- 구축한 데이터의 20% 테스트 결과

유해표현 검출 AI 모델 학습용 데이터-구축한 데이터의 20% 테스트 결과
베이스모델명	F1-Score	Accuracy
KcElectra	0.9928	0.9928
KoElectra	0.9881	0.9881
KoBERT-Medium	0.99	0.99

[활용]
- LLM 학습에 사용할 말뭉치 내 유해표현 검출 시 활용
- 추론 결과에 유해표현 여부와 유해표현 및 비유해표현으로 분류되는 데 영향을 주는 토큰을 추가하여 문장 유해성 분석 시 활용

2. 유해 카테고리 분류 AI 모델 학습용 데이터
[학습]
- 베이스라인 모델* 기반 전이학습 수행
* KcElectra, KoBERT-Medium
- 구축한 데이터의 80%를 학습에 사용
- AI Task: 멀티 레이블링 분류
[테스트]
- 구축한 데이터의 20% 테스트 결과

유해 카테고리 분류 AI 모델 학습용 데이터-구축한 데이터의 20% 테스트 결과
베이스모델명	F1-Score	Accuracy	AUC
KcElectra	0.82828	0.70137	0.91129
KoBERT-Medium	0.82952	0.70281	0.90844

[활용]
- LLM 학습에 사용할 말뭉치 내 유해표현 검출 및 카테고리 분류 시 활용

설명서 및 활용가이드 다운로드

구축활용가이드 다운로드

1. 유해표현 검출 AI 모델 학습용 데이터
- 구성

유해표현 검출 AI 모델 학습용 데이터-구성
key	Description	Type
content	문장	String
label	유해표현 여부(0,1)	Number

- 실제예시(csv)

유해표현 검출 AI 모델 학습용 데이터(실제예시)

2. 유해 카테고리 분류 AI 모델 학습용 데이터 구성
- 구성

유해 카테고리 분류 AI 모델 학습용 데이터 구성-구성
key	Description	Type
문장	문장	String
모욕	모욕 해당(0,1,2,3)	Number
욕설	욕설 해당(0,1,2,3)	Number
외설	외설 해당(0,1,2,3)	Number
폭력위협/범죄조장	폭력위협/범죄조장 해당(0,1,2,3)	Number
성혐오	성혐오 해당(0,1,2,3)	Number
연령	연령 해당(0,1,2,3)	Number
인종/지역	인종/지역 해당(0,1,2,3)	Number
장애	장애 해당(0,1,2,3)	Number
종교	종교 해당(0,1,2,3)	Number
정치성향	정치성향 해당(0,1,2,3)	Number
직업	직업 해당(0,1,2,3)	Number
정상	정상 해당(0,1,2,3)	Number

※정상을 제외한 나머지 키는 멀티 레이블링 수행

- 실제예시(csv)

유해 카테고리 분류 AI 모델 학습용 데이터 구성-실제 예시(CSB)

데이터셋 구축 담당자

수행기관(주관) : TTA

수행기관(주관)
책임자명	전화번호	대표이메일	담당업무
조경신	010-5110-5306	ksjo1203@tta.or.kr	AI데이터품질검증

수행기관(참여)

수행기관(참여)
기관명	담당업무
SSL	유해표현 검출용 AI 모델 학습을 위한 데이터 구축 및 모델 학습

데이터 관련 문의처

데이터 관련 문의처
담당자명	전화번호	이메일
조경신	010-5110-5306	ksjo1203@tta.or.kr
전형진	010-2902-8328	wjswps@smartsafety.co.kr

AI모델 관련 문의처

AI모델 관련 문의처
담당자명	전화번호	이메일
조경신	010-5110-5306	ksjo1203@tta.or.kr
전형진	010-2902-8328	wjswps@smartsafety.co.kr

보건의료 데이터 개방 안내

보건의료 데이터는 온라인 및 오프라인 안심존을 통해 개방됩니다.

안심존이란 안심존 이용메뉴얼 안심존 이용신청 데이터 열람신청

인터넷과 물리적으로 분리된 온라인·오프라인 공간으로 의료 데이터를 포함하여 보안 조치가 요구되는 데이터를 다운로드 없이 접근하고 분석 가능
* 온라인 안심존 : 보안이 보장된 온라인 네트워크를 통해 집, 연구실, 사무실 등 어디서나 접속하여 데이터에 접근하고 분석
* 오프라인 안심존 : 추가적인 보안이 필요한 데이터를 대상으로 지정된 물리적 공간에서만 접속하여 데이터에 접근하고 분석
1. AI 허브 접속
  신청자
2. 안심존
  사용신청신청자신청서류 제출*
3. 심사구축기관
4. 승인구축기관
5. 데이터 분석 활용신청자
6. 분석모델반출신청자
1. 기관생명윤리위원회(IRB) 심의 결과 통지서 [IRB 알아보기] [공용IRB 심의신청 가이드라인]
2. 기관생명윤리위원회(IRB) 승인된 연구계획서
3. 신청자 소속 증빙 서류 (재직증명서, 재학증명서, 근로계약서 등 택1)
4. 안심존 이용 신청서 [다운로드]
5. 보안서약서 [다운로드]
※ 상기 신청서 및 첨부 서류를 완비한 후 신청을 진행하셔야 정상적으로 절차가 이루어집니다.
신청 및 이용관련 문의는 safezone1@aihub.kr 또는 02-525-7708, 7709로 문의