AI-Hub

#컴퓨터 그래픽스

눈, 비, 안개 등의 다양한 외부 환경 노이즈 제거를 위한 영상 데이터

분야영상이미지
유형 이미지

구축년도 : 2021 갱신년월 : 2022-07 조회수 : 4,844 다운로드 : 237 용량 :

샘플 데이터

※샘플데이터는 데이터의 이해를 돕기 위해 별도로 가공하여 제공하는 정보로써 원본 데이터와 차이가 있을 수 있으며,
데이터에 따라서 민감한 정보는 일부 마스킹(*) 처리가 되어 있을 수 있습니다.

소개 파일 목록 (API 다운로드)

※ 내국인만 데이터 신청이 가능합니다.

데이터 토론 문의하기 목록

데이터 변경이력

데이터 변경이력
버전	일자	변경내용	비고
1.0	2022-07-14	데이터 최초 개방

데이터 히스토리

데이터 히스토리
일자	변경내용	비고
2022-11-29	활용 AI 모델 및 코드 항목 내 링크 수정
2022-10-13	신규 샘플데이터 개방
2022-07-14	콘텐츠 최초 등록

소개

영상 취득 시 품질에 영향을 주는 기상변화(눈, 비, 안개, 황사/미세먼지)나 외부 잡음 요소(저조도 등)를 제거하기 위한 영상의 노이즈 제거 데이터 구축

구축목적

눈, 비, 안개 등 다양한 외부 환경 노이즈 제거를 위한 인공지능 알고리즘 개발을 통해 외부환경 변화와 관계없이 고품질의 영상을 활용하여 생활 안전 모니터링 서비스 응용

메타데이터 구조표
데이터 영역	영상이미지	데이터 유형	이미지
데이터 형식	jpg	데이터 출처	㈜미디어그룹사람과숲
라벨링 유형	세그멘테이션	라벨링 형식	JSON
데이터 활용 서비스	영상 품질 향상 기술, 디노이징 기술, 업스케일링 기술, 영상 노이즈 제거 변환 기술 등 전반적인 이미지 전처리 기술 네트워크 학습 및 CCTV 영상 품질 향상 등 기술개발에 활용 악 기상 상태에서 외부환경의 변화와 관계없이 고품질의 영상을 활용하여 인공지능 생활 안전 모니터링 서비스 활용 개발	데이터 구축년도/ 데이터 구축량	2021년/1,009,662장(frame)

데이터 통계

구축 데이터 전체 수량 : 총 917시간 (GT : 88시간 / NOISE : 829시간)

계절별 분포


	계절	구분	단위	실수치	비율
실외	봄	GT	ea	83	0.37%
	봄	Noise		291	1.30%
	여름	GT		1,028	4.61%
	여름	Noise		4,104	18.38%
	가을	GT		1,755	7.88%
	가을	Noise		6,002	26.89%
	겨울	GT		2,379	10.66%
	겨울	Noise		5,964	26.72%
실내	실내	GT		40	0.18%
실내	실내	Noise		674	3.02%

눈, 비, 안개 등의 다양한 외부 환경 노이즈 제거를 위한 영상-데이터 통계_1_계절별 분포

Noise별 분포

class	구분	단위	실수치	비율
비	GT	분	1,319	2.40%
비	Noise		15,591	28.30%
안개(시정거리)	GT		800	1.50%
안개(시정거리)	Noise		7,833	14.20%
미세먼지&황사	GT		675	1.20%
미세먼지&황사	Noise		4,833	8.80%
눈	GT		1,113	2.00%
눈	Noise		9,345	17.00%
복합 Noise	GT		499	0.90%
복합 Noise	Noise		1,500	2.70%
실외 저조도	GT		842	1.50%
실외 저조도	Noise		9,981	18.10%
실내 저조도	GT		40	0.10%
실내 저조도	Noise		674	1.20%

눈, 비, 안개 등의 다양한 외부 환경 노이즈 제거를 위한 영상-데이터 통계_2_Noise별 분포

저작도구 설명서 및 저작도구 다운로드
저작도구 설명서 다운로드 저작도구 다운로드

AI 모델 상세 설명서 다운로드

AI 모델 상세 설명서 다운로드 AI 모델 다운로드

학습 모델

항목
항목	내용
사용 모델	· MPRNet 알고리즘 사용

전처리 코드	원활한 딥러닝 모델 학습을 위해 전처리를 수행해주는 코드.
학습 코드	딥러닝 모델을 학습시켜 주는 코드. 사용자가 학습 추이를 관찰하고 분석할 수 있도록 작성됨.
테스트(추론) 코드	딥러닝 모델을 이용하여 테스트 데이터의 노이즈를 제거하는 코드. 테스트(추론) 이후에 PSNR을 측정하여 출력하는 코드 포함.

평가 수행 로그	본 품질검증 알고리즘으로 테스트한 결과 내용.
	https://koreaoffice-my.sharepoint.com/:f:/g/personal/kimdongwook_korea_ac_kr/En_eSYYl0dhMgW6HlvjM3ZMBvMxwRWWhnMSyD2wl2_dT1Q
평가용 데이터 목록	평가에 사용된 목록 제공. 본 프로젝트의 아래 경로에 제공.
	./rawRGB/nlowlight_indoor/
	./sRGB/R_S_L_F_D/
Pre-trained 파라미터	사용자가 딥러닝 모델을 직접 학습시키지 않아도 바로 사용할 수 있도록 미리 학습된 딥러닝 모델의 파라미터 제공.
	https://koreaoffice-my.sharepoint.com/:f:/g/personal/kimdongwook_korea_ac_kr/Ehx-PwW7h0tPpd0KbJJoshkBGSj5d_Hkrcnu3PZcuaOklw
도커 이미지	본 알고리즘을 테스트 할 수 있는 환경을 도커로 제공.
	OS : Ubuntu 20.04 LTS
	Python : 3.8.10
	Library : 문서의 개발 환경 세부사항 참조.
	https://hub.docker.com/r/spnova12/img_restoration
Github 프로젝트 페이지	사용자는 본 알고리즘의 Github 프로젝트 페이지를 통해 좀 더 쉽게 코드 관리 가능.
	https://github.com/spnova12/Real-world-Image-Restoration

서비스 활용 시나리오

2D 영상을 입체 영상으로 변환하기 위한 방면에서의 활용
연속된 영상 프레임 간에 영상 정보의 차이를 통하여 움직임 있는 영역 분리 활용
Image Inpainting 인공지능 모델 인식률 향상

참고자료

참고 자료
MPRNet[3]	노이즈 제거 딥러닝 모델로 사용.
	https://github.com/swz30/MPRNet
DeepSelfie[7]	RAW 이미지 읽고 쓰는 것에 코드 참고.
	https://github.com/YCL92/deepSelfie
NTIRE 2021 Challenge on Burst Super-Resolution[6]	전처리 시 정렬 전략 및 코드 참고.
	https://github.com/goutamgmb/deep-burst-sr
GRDN[5]	색 정렬 시 딥러닝 모델로 사용.
	https://github.com/BusterChung/NTIRE_test_code

데이터 성능 점수

측정값 (%)

기준값 (%)

데이터 성능 지표

데이터 성능 지표
번호	측정항목	AI TASK	학습모델	지표명	기준값 점수	측정값 점수
1	Denoising(저조도)	Reconstruction	MPRnet	PSNR	39 dB	41.3 dB
2	Denoising(눈)	Reconstruction	MPRnet	PSNR	32 dB	35.36 dB
3	Denoising(비)	Reconstruction	MPRnet	PSNR	32 dB	34.94 dB
4	Denoising(안개)	Reconstruction	MPRnet	PSNR	35 dB	37.52 dB
5	Denoising(미세먼지)	Reconstruction	MPRnet	PSNR	35 dB	38.55 dB

※ 데이터 성능 지표가 여러 개일 경우 각 항목을 클릭하면 해당 지표의 값이 그래프에 표기됩니다.

※ AI모델 평가 지표에 따라 측정값의 범위, 판단 기준이 달라질 수 있습니다. (ex. 오류율의 경우, 낮을수록 좋은 성능을 내는 것으로 평가됩니다)

설명서 및 활용가이드 다운로드

데이터 설명서 다운로드 구축활용가이드 다운로드

데이터 포맷

데이터 명
데이터 명	눈, 비, 안개 등의 다양한 외부환경 노이즈 제거를 위한 영상 데이터
데이터 포맷	노이즈/실외저조도 : avi (x264, xvid codec기준) 실내저조도 : dng(RAW) 원천데이터 : jpg 학습용데이터 : json



활용 분야	■ 주/야간 악기상시 감시능력 향상으로 경찰 및 공공 기관의 외곽 경계 경비에 적용 ■ CCTV 노이즈 성능 향상으로 범죄 상황 분석시 이미지 인식률 향상에 적용 ■ AI, 데이터 Science 등 관련 분야 일자리 창출
데이터 요약	영상 취득시 품질에 영향을 주는 기상변화(눈, 비, 안개, 황사/미세먼지)나 외부 잡음 요소(저조도 등)를 제거하기 위한 영상의 노이즈 제거 데이터 구축

데이터 예시


원천 데이터(노이즈-비)	라벨링 데이터(노이즈-비)

원천 데이터(실내 저조도)	라벨링 데이터(실내 저조도)

json 형식

{
"Raw_Data_Info.": {
"Raw_Data_ID": "D-210801_O1012R01_002",
"Location": "O1012",
"Copyrighter": "㈜미디어그룹사람과숲",
"Resolution": "1920, 1080",
"Date": "2021-08-01",
"Start_Time": "15:12:00",
"End_Time": "15:15:00",
"Length": 180,
"GPS": "37.33330166367608, 127.0560421979971",
"Season": "SUMMER",
"Weather": "RAIN",
"Weather_Level": "R01",
"Visible_Distance_Level": "",
"FPS": 30,
"F-Stop": "F16.0",
"Exposure_Time": "1/60",
"ISO_Level": "L01",
"File_Extension": "avi"
},
"Source_Data_Info.": {
"Source_Data_ID": "D-210801_O1012R01_002_0002",
"Classification_ID": "O1012",
"File_Extension": "jpg"
},
"Learning_Data_Info.": {
"Path":"Denoising/Denoising_4th/D-210801_O1012RGT_002/D-210801_O1012R01_002",
"File_Extension": "json",
"Json_Data_ID": "D-210801_O1012R01_002_0002",
"Annotation": [
   {
   "Class_ID": "BS02",
                        "segmentation": [
     0,
     0,
     0,
     1080,
     1920,
     1080,
     1920,
     0
    ],
    "type": "segmentation"
   },
}

학습데이터 공통 항목

작업 대상	작업 방식	작업 방법	결과값	예시
Ground Truth (정답지)	segmentation	객체 외곽을 포인트로 가공	[x,y,x,y]	[456, 567, 891, 234 ...]
Ground Truth (정답지)	segmentation	객체 외곽을 포인트로 가공	[x,y,x,y]	[456, 567, 891, 234 ...]
배경	segmentation	객체 외곽을 포인트로 가공	[x,y,x,y]	[456, 567, 891, 234 ...]
객체	segmentation	객체 외곽을 포인트로 가공	[x,y,x,y]	[456, 567, 891, 234 ...]

데이터 구조

폴더구조	파일명 구조

	①	세부과제별 ID	[39] 눈, 비, 안개 등의 다양한 외부환경 노이즈 제거를 위한 영상 데이터
	②	촬영날짜	원시데이터 촬영 일 (예 : 210504)
	③	촬영장소 ID	실외 135곳, 실내 30곳 (예 : _O1001, _I1002)
	④	Class ID	R01, F02...(비 : R, 안개 : F,
	④	Class ID	미세먼지 및 황사 : D, 눈 : S, 복합 : C, 저조도 : L, GT : Groung Truth)
	④-1	원시데이터 촬영번호	_001
	⑤	정제이미지번호	_0001
	⑥	파일 확장자	avi, dng, jpg, json

JSON 포맷 형식

분류	속성명	속성 설명	데이터	필수 여부			값 범위(예시)
			타입	노이즈	저조도
				노이즈	실외	실내
Raw data Info.	Raw_Data_ID	원시 파일명	string	Y	Y	Y	"D-210501_O1001RGT_001“~”D-220228_I1001L25_001"
	Location	촬영장소 ID	string	Y	Y	Y	"O1001“~”I8030"
	Copyrighter	㈜미디어그룹사람과숲	string	Y	Y	Y	"㈜미디어그룹사람과숲"
	Resolution	1920*1080 이상	string	Y	Y	Y	"1920, 1080", "5472, 3648", "5760, 3840"
	Date	촬영일자	string	Y	Y	Y	"2021-06-01“~”2022-02-28"
	Date	(yyyy-mm-dd)	string	Y	Y	Y	"2021-06-01“~”2022-02-28"
	Start_Time	촬영 시작시간	string	Y	Y	Y	"00:00:00“~”00:03:00"
	End_Time	촬영 종료시간	string	Y	Y	Y	"00:00:00“~”00:03:00"
	Length	영상길이 초(sec)	integer	Y	Y	Y	"60“~”180"
	GPS	GPS 정보	string	Y	Y	Y	"37.48928201444317, 126.98666291768929"
	GPS	(위도, 경도)	string	Y	Y	Y	"37.48928201444317, 126.98666291768929"
	Season	계절	string	Y	Y	Y	"SPRING,“ ”SUMMER“, ”FALL“, ”WINTER"
	Weather	맑음, 눈, 비, 안개,	string	Y	N	N	"RAIN, “SNOW”, “FOG", "DUST“
		미세먼지/황사					*맑음의 경우 weather 뒤에 _GT 붙임
							ex) “RAIN_GT”
	Weather_Level	날씨 Level	string	Y	N	N	“R01”~“R06”
							“S01”~“S04”
							“F01”~“F04”
							“D01”~“D04”
							“C01”~“C05”
	Visible_Distance _Level	시정거리(Level )	string	N	N	N	"L01“~”L04"
	FPS	초당 프레임 수	integer	Y	Y	Y	"1", "30"
	F-Stop	조리개 수치	string	Y	Y	Y	"F1.4“~”F32.0"
	Exposure_Time	노출시간	string	Y	Y	Y	"1/2“~”1/40000"
	ISO_Level	ISO 감도	string	Y	N	Y	“L01”~“L25”
	Lux_Level	빛의 강도	string	N	Y	N	“L01”~“L04”
	File_Extension	원시 파일 확장자	string	Y	Y	Y	"avi", "dng"
Source data Info.	Source_Data_ID	이미지 파일명	string	Y	Y	Y	"D-210501_O1001RGT_001_0001“~”D-220228_I1001L25_001_0001"
	Classification_ID	분류ID	string	Y	Y	Y	"O1001“~”I8030"
	File_Extension	이미지 확장자	string	Y	Y	Y	"jpg"
Learning data Info.	Path	Json 폴더 경로	string	Y	Y	Y	"//D-210501_O1001RGT_001_0001"
	File_Extension	Json	string	Y	Y	Y	"json"
	Json_Data_ID	Json 파일명	string	Y	Y	Y	"D-210501_O1001RGT_001_0001“~”D-220228_I1001L25_001_0001"
	Annotations	어노테이션 값	array	Y	Y	Y	[]
	Class_ID	class ID	string	Y	Y	Y	"B000“~”BS40"
	segmentation	[x,y,x,y]	array	Y	Y	Y	[593,671,1040,795]
	type	어노테이션 종류	string	Y	Y	Y	"segmentation"

학습데이터

{ "Raw_Data_Info.": { "Raw_Data_ID": "D-210801_O1012R01_002", "Location": "O1012", "Copyrighter": "㈜미디어그룹사람과숲", "Resolution": "1920, 1080", "Date": "2021-08-01", "Start_Time": "15:12:00", "End_Time": "15:15:00", "Length": 180, "GPS": "37.33330166367608, 127.0560421979971", "Season": "SUMMER", "Weather": "RAIN", "Weather_Level": "R01", "Visible_Distance_Level": "L01", "FPS": 30, "F-Stop": "F16.0", "Exposure_Time": "1/60", "ISO_Level": "L01", "File_Extension": "avi" }, "Source_Data_Info.": { "Source_Data_ID": "D-210801_O1012R01_002_0002", "Classification_ID": "O1012", "File_Extension": "jpg" }, "Learning_Data_Info.": { "Path":"Denoising/Denoising_4th/D-210801_O1012RGT_002/D-210801_O1012R01_002", "File_Extension": "json", "Json_Data_ID": "D-210801_O1012R01_002_0002", "Annotation": [ { "Class_ID": "BS02", "segmentation": [ 0, 0, 0, 1080, 1920, 1080, 1920, 0 ], "type": "segmentation" }, }{

데이터셋 구축 담당자

수행기관(주관) : ㈜미디어그룹사람과숲

수행기관(주관)
책임자명	전화번호	대표이메일	담당업무
한윤기	02-6959-6632	hanykee@humanf.co.kr	과제 총괄 책임

수행기관(참여)

수행기관(참여)
기관명	담당업무
넥스터 주식회사(舊 센스비전)	39. 외부환경 노이즈 제거를 위한 영상 데이터 수집/정제
링크플로우 주식회사	40. Inpainting 자동화를 위한 영상 데이터 수집/정제
주식회사 인피닉	39. 외부환경 노이즈 제거를 위한 영상 데이터 가공 40. Inpainting 자동화를 위한 영상 데이터 가공
아이브스㈜	39. 외부환경 노이즈 제거를 위한 영상 데이터 알고리즘 개발 40. Inpainting 자동화를 위한 영상 데이터 알고리즘 개발

데이터 관련 문의처

데이터 관련 문의처
담당자명	전화번호	이메일
한윤기	02-6959-6632	hanykee@humanf.co.kr

보건의료 데이터 개방 안내

보건의료 데이터는 온라인 및 오프라인 안심존을 통해 개방됩니다.

안심존이란 안심존 이용메뉴얼 안심존 이용신청

인터넷과 물리적으로 분리된 온라인·오프라인 공간으로 의료 데이터를 포함하여 보안 조치가 요구되는 데이터를 다운로드 없이 접근하고 분석 가능
* 온라인 안심존 : 보안이 보장된 온라인 네트워크를 통해 집, 연구실, 사무실 등 어디서나 접속하여 데이터에 접근하고 분석
* 오프라인 안심존 : 추가적인 보안이 필요한 데이터를 대상으로 지정된 물리적 공간에서만 접속하여 데이터에 접근하고 분석
1. AI 허브 접속
  신청자
2. 안심존
  사용신청신청자신청서류 제출*
3. 심사구축기관
4. 승인구축기관
5. 데이터 분석 활용신청자
6. 분석모델반출신청자
1. 기관생명윤리위원회(IRB) 심의 결과 통지서 [IRB 알아보기]
2. 기관생명윤리위원회(IRB) 승인된 연구계획서
3. 신청자 소속 증빙 서류 (재직증명서, 재학증명서, 근로계약서 등 택1)
4. 안심존 이용 신청서 [다운로드]
5. 보안서약서 [다운로드]
※ 상기 신청서 및 첨부 서류를 완비한 후 신청을 진행하셔야 정상적으로 절차가 이루어집니다.
신청 및 이용관련 문의는 safezone1@aihub.kr 또는 02-525-7708, 7709로 문의