와이즈스톤 와이즈스톤

기술인사이트

기술리포트

인공지능 학습용 데이터 품질 기초 #1
  • 작성자
    와이즈스톤 권성재 선임연구원
  • 작성일
    2025-05-27

인공지능 학습용 데이터 품질 기초 #1

데이터 품질이라는 개념을 설명하기에 앞서, 먼저 ‘품질’이라는 단어 자체를 짚고 넘어가 보겠습니다.
‘품질(品質)’이라는 한자는 ‘물건 품(品)’과 ‘바탕 질(質)’로 이루어져 있습니다.
이는 물건이 갖추어야 할 본래의 바탕, 즉 사물의 기본적인 속성과 성능이 일정 기준을 충족하는 상태를 의미합니다.
영어로는 "Quality"라고 하며, 단순히 ‘좋다’는 의미가 아닌, “어떤 목적에 맞게 잘 작동하는 상태인가”를 평가하는 기준으로 사용됩니다.
그렇다면 우리가 일상에서 사용하는 사물의 품질은 어떻게 판단할 수 있을까요?

예를 들어, 덤벨을 생각해 봅시다. 어떤 덤벨이 품질이 좋은 덤벨일까요?
무게 표시가 정확하고, 손에 쥐었을 때 미끄럽지 않으며, 사용 중 부상을 유발하지 않는 구조로 되어 있다면 우리는 그 덤벨을 ‘품질이 좋다’고 평가할 수 있습니다.
또 다른 예로, 모니터를 살펴보면 어떨까요? 영화 감상을 위한 용도라면 28인치 화면, 17:9 비율, FHD 해상도, 144Hz 주사율 같은 요소들이 중요하게 작용할 것입니다.
사용 목적에 따라 확인해야 할 요소가 달라지며, 그에 따라 ‘품질이 좋다’는 판단 기준도 바뀌게 됩니다.

이처럼, 품질이라는 개념은 절대적인 것이 아니라 상대적인 개념입니다.
사용자가 무엇을 위해 그 제품을 사용하는가에 따라 품질을 판단하는 기준이 달라지기 때문입니다.

‘데이터’의 품질을 말할 때는 이야기가 조금 더 복잡해집니다.
왜냐하면 데이터는 덤벨이나 모니터처럼 물리적인 물건이 아니며, 사용자마다 사용 목적이 훨씬 더 다양하기 때문입니다.

예를 들어, 동일한 자동차 이미지 1만 장이 있다고 가정해 보겠습니다.
한 사람은 이 이미지를 활용해 차량 번호판을 자동으로 인식하는 인공지능 모델을 학습시키고자 합니다.
이 경우에는 차량 앞부분이 선명하게 보이고, 번호판이 가려지지 않으며 직각에 가깝게 촬영된 이미지가 필요합니다.

또 다른 사람은 차량의 외관 손상 여부를 판별하는 모델을 만들고자 할 수 있습니다.
이런 경우에는 차량의 측면, 범퍼, 휀더 등 다양한 부위가 다양한 각도에서 촬영된 이미지가 필요하고, 손상 부위가 잘 보이도록 고해상도 이미지가 요구됩니다.

또 다른 사람은 차량의 종류나 모델을 분류하는 AI를 개발하려고 할 수 있습니다.
이때는 차량 전체가 프레임 안에 들어오도록 전면·측면·후면이 골고루 포함된 이미지가 중요하며,
조도나 배경에 따라 구분할 수 있어야합니다. 
같은 이미지라도 사용 목적에 따라 요구되는 데이터의 조건이 달라진다는 것,
이것이 바로 데이터 품질이 ‘절대적인 기준’이 아니라 ‘목적 중심의 상대적 기준’이라는 사실을 잘 보여줍니다.
이처럼 데이터의 ‘좋고 나쁨’은 누가, 어떤 목적을 가지고 사용하느냐에 따라 달라지는 상대적 속성을 지니고 있습니다.

따라서 우리는 데이터 품질을 단순히 ‘정확하다’, ‘깨끗하다’, ‘오류가 없다’는 식으로 판단할 수 없습니다.
오히려 이렇게 정의해야 합니다.
“데이터 품질이란, 해당 데이터가 사용 목적에 적합한가(Fit for Use)를 평가하는 것이다.”
제가 스마트팜 프로젝트에서 겪었던 실제 경험도 이를 잘 보여줍니다.

당시 우리는 열심히 딸기 이미지를 촬영하고 수집했습니다.
보기에도 깔끔하고 선명한 이미지였기에 ‘좋은 데이터’라고 생각했습니다.
그러나 AI 모델이 학습을 제대로 하지 못했습니다.
왜냐하면 병충해 진단이라는 목적에는 해당 이미지가 잎의 위치나 병증 부위를 명확하게 보여주지 못했기 때문입니다.
즉, 아무리 이미지의 해상도가 높고 품질이 좋아 보여도, 사용 목적에 맞지 않으면 그것은 AI에게는 ‘쓸모없는 데이터’가 됩니다.
이처럼 데이터 품질의 핵심은 ‘사용 목적과의 부합성’에 있습니다.
이를 Fit for Use, 즉 “사용 가능성에 적합한가?”라는 기준으로 설명할 수 있습니다.

지금까지 ‘데이터 품질’에 대해 이야기해왔지만,
여기서 말하는 ‘데이터’가 정확히 무엇을 의미하는지 조금 헷갈리셨을 수도 있습니다.
우리가 흔히 말하는 데이터는 매우 포괄적인 개념이기 때문입니다.
숫자, 텍스트, 이미지, 음성, 로그 등 다양한 형태의 데이터가 있으며, 이들이 쓰이는 목적도 매우 다양하죠.
그래서 여기서 명확히 하자면,
지금까지 우리가 이야기한 ‘데이터 품질’은 인공지능 학습용 데이터를 대상으로 한정된 개념입니다.
더 구체적으로는 AI 모델을 학습시키기 위해 수집하고, 가공하고, 정제한 지도학습(Supervised Learning) 기반의 데이터를 의미합니다.
그렇다면 ‘인공지능 학습용 데이터’는 일반적인 ‘빅데이터’와 어떻게 다를까요?
아래의 표는 인공지능 학습용 데이터와 빅데이터 간의 차이를 간단히 정리한 것입니다.


인공지능 학습용 데이터는 명확한 목적과 임무(Mission)가 정의된 상태에서,
그 목적에 맞는 데이터를 체계적으로 구축하여 AI 모델을 학습시키는 데 사용됩니다.
즉, 처음부터 AI 학습을 염두에 두고 ‘의도된’ 데이터인 셈이죠.
반면 빅데이터는 대규모로 수집된 다양한 데이터에서 숨겨진 패턴이나 가치를 탐색하는 데 초점이 있습니다.
주로 인사이트 도출, 비즈니스 의사결정, 트렌드 분석 등에 활용되며,
목적이 명확히 정해지기보다는 데이터 자체에서 의미를 찾아가는 방향입니다.
이러한 차이는 그림으로도 명확하게 표현할 수 있습니다.

'인공지능 학습용 데이터'는 구축 기준에 따라 설계된 데이터셋이 목적에 맞게 정리되어 있습니다.
반면 오른쪽의 '빅데이터'는 이미 수집되어 있는 대규모 데이터를 탐색하고 분석해 가치 있는 정보(value)를 추출하는 방식으로 접근합니다.



ㅇ 인공지능 학습용 데이터 생성과 품질 검증
앞서 설명한 것처럼 인공지능 학습용 데이터는 단순히 수집해서 사용하는 정적인 자원이 아닙니다.
인공지능 학습용 데이터는 '계획 수립 → 수집 → 정제 → 가공 → 학습 → 활용 → 폐기'에 이르는 생애주기 전체를 따라 흐르며, 이 과정 속에서 끊임없이 다듬어지고 점검되어야 합니다.

<인공지능 학습용 데이터 구축 프로세스> 출처 : 인공지능 학습용 데이터 품질관리 가이드라인 v3.1

먼저 준비 및 계획 단계에서는 ‘이 데이터를 왜 만드는가’라는 질문에 대한 답을 찾습니다.
AI가 해결하려는 문제를 정의하고, 그에 맞는 데이터 유형과 구성 방식을 설계합니다.
이때 품질 기준도 함께 설정되며, 어떤 조건을 만족해야 데이터가 학습에 적합한지를 명확히 문서화합니다.

다음으로 구축 단계에서는 실제 데이터를 수집하고 가공하는 작업이 이루어집니다.
이 단계에서 품질 검증은 가장 활발히 개입합니다.
수집된 원시 데이터가 계획된 해상도, 포맷, 장비 사양을 충족하는지를 확인하고,
정제 과정에서는 중복, 결측, 노이즈, 포맷 오류 등을 점검합니다.
특히 라벨링 단계에서는 라벨이 정확히 부착되었는지,
바운딩 박스가 객체를 제대로 포함하고 있는지,
클래스 구성이 설계 기준과 부합하는지를 집중적으로 검토합니다.

이러한 과정은 단순한 오류 검출을 넘어서, 기준에서 벗어난 부분을 수정하거나 재작업을 요청하는 개선조치 활동까지 포함됩니다.
즉, 검증자는 데이터가 목적에 맞게 다듬어질 수 있도록 적극적으로 개입합니다.
이러한 지속적인 품질 검증 활동은 데이터의 신뢰성을 높이고,
결국에는 AI의 정확성과 안정성까지 끌어올리는 핵심적인 역할을 수행합니다.
하지만 이때 검증자가 데이터 수집이나 가공 과정에 직접 관여하지 못하는 제3자 입장이라고 하면,
완성된 결과물의 품질을 어떻게 판단할 수 있을까요?

ㅇ 인공지능 학습용 데이터 생성과 품질 검증
학습용 데이터 구축 과정에 관여할 수 없는 제3자의 입장에서 품질을 검증해야 하는 상황에서는,
이미 완성된 학습용 데이터 세트를 기준으로 사후적 검토를 수행하게 됩니다.
즉, 데이터가 어떻게 수집되었는지,
어떤 기준으로 가공되었는지에 대한 정보를 직접 확인하기 어려운 환경에서,
결과물 자체만을 근거로 데이터의 품질을 객관적으로 판단해야 하는 것입니다.

이러한 경우, 검증자가 우선적으로 확인할 수 있는 핵심 영역은 ‘데이터 적합성’과 ‘데이터 정확성’입니다.
이 두 축은 학습용 데이터가 AI 모델에게 가르칠 만한 가치가 있는가,
그리고 그 정보가 실제로 올바른가를 구분하여 평가하는 역할을 합니다.

<인공지능 학습용 데이터 품질 지표> 출처 : 인공지능 학습용 데이터 품질관리 가이드라인 v3.1

먼저, 데이터 적합성이란 해당 데이터가 인공지능 모델이 수행할 학습 목적에 부합하는 방식으로 구성되어 있는지를 판단하는 기준입니다.
단순히 데이터가 존재한다는 사실만으로는 충분하지 않습니다.
모델이 무엇을 학습해야 하는지에 따라 요구되는 데이터의 조건은 달라지며, 이에 따라 적합성은 목적 중심의 검토가 필요합니다.

적합성 검토에서는 데이터가 다양하고, 충분하며, 공정하게 구성되어 있는지를 살펴보게 됩니다.
특정 클래스가 지나치게 많이 포함되어 있거나, 특정 상황에 대한 사례만 편중되어 있다면,
이는 다양성과 균형 측면에서 부적절하다고 볼 수 있습니다.
또한, 해상도나 포맷 같은 기술적 요건이 프로젝트 명세와 일치하지 않는 경우에도 부적합 판정이 내려질 수 있습니다.
예를 들어, 720p 이상의 이미지 데이터가 요구되었음에도 불구하고 일부 파일이 480p 해상도로 구성되어 있다면,
이는 기술적 적합성을 충족하지 못한 것입니다.

이와 함께 중요한 또 하나의 적합성 항목은 ‘통계적 다양성’입니다.
이는 단순히 클래스 종류만 보는 것이 아니라,
각 클래스 간의 분포 비율, 인스턴스 수의 균형, 텍스트의 길이나 문장의 복잡성,
음성 길이의 변이폭 등을 포함하여 데이터가 얼마나 폭넓고 고르게 구성되어 있는지를 수치적으로 확인하는 영역입니다.
AI 모델이 편향되지 않고 학습하려면 다양한 상황이 고르게 반영된 학습용 데이터가 필수이기 때문입니다.

한편, 데이터 정확성은 데이터 안에 담긴 정보가 얼마나 정확하게 라벨링되어 있으며,
실제 정답과 일치하는지를 확인하는 과정입니다.
이는 AI 모델이 ‘잘못된 정답’을 학습하지 않도록 막는 마지막 방어선이라 할 수 있습니다.

정확성 검토에서는 먼저 데이터가 명세된 구조에 따라 정확히 기술되었는지를 확인하게 됩니다.
예를 들어 JSON 파일이 열리지 않거나,
라벨링 형식이 누락되어 있다면, 이는 구조적 오류로 간주되어 구문 정확성에 문제가 있는 것으로 판단됩니다.

그리고 의미 정확성에 있어서는 라벨이 실제 상황과 얼마나 일치하는지를 정량적으로 평가합니다.
바운딩 박스의 좌표가 객체를 벗어나 있다거나, OCR 결과가 실제 텍스트와 다를 경우,
이 역시 정확성 결함으로 판정됩니다.
이러한 평가는 정밀도(Precision), 재현율(Recall), F1 Score, IoU, ROUGE, BLEU 등 다양한 지표를 활용하여 수치화할 수 있습니다.

결국, 제3자 검증자는 데이터가 ‘목적에 맞게 구성되었는지’와 ‘실제로 올바른 정보를 담고 있는지’를 중점적으로 평가하게 되며,
이 두 요소가 만족되지 않는다면 아무리 양질의 AI 알고리즘이라 하더라도 제대로 된 결과를 내기 어렵습니다.

따라서 품질 검증의 핵심은 단지 오류를 잡아내는 데 있는 것이 아니라,
AI가 신뢰할 수 있는 데이터를 기반으로 학습할 수 있도록 데이터를 점검하고 보완하는 전문적인 과정이라 할 수 있습니다.

그렇다면, 데이터 적합성과 정확성이라는 큰 틀 아래에는 구체적으로 어떤 세부 지표들이 있을까요?
다음 포스트에서는 그중에서도 ‘데이터 적합성’의 하위 요소인
‘기준 적합성’ 항목에 포함되는 주요 지표들을 하나씩 살펴보며,
각 항목이 의미하는 바와 검토 시 주의할 점, 검증 예시들을 함께 정리해보고자 합니다.