R로 배우는 데이터 분석 첫 걸음 : 기초 문법부터 데이터 마이닝 실습까지 강좌의 맛보기 강의입니다.
기술 통계를 먼저 정리해 볼 건데요. 자료를 요약하는 기초적인 통계를 의미하고요. 기술 통계에서 자료를 잘 요약 정리하고 그래프로 시각화해서 인사이트를 찾아야만 가설 검정을 할 수가 있는 거죠. 가설 검정 이전에, 가설 검정을 잘 하려고 기술 통계를 하는 겁니다. 기술 자체를, 데이터 자체를 잘 묘사해야 그 다음에 가설 검정에 가설을 세우고 여러 가지 검정을 해낼 수 있기 때문에 가설 검정을, 추론 검정하기 전에 하는 단계가 바로 기술 통계다 라고 생각을 해주시면 좋을 것 같고요. 자료에 대한 인사이트를 얻기 위해 유리한 자료 요약 정리를 잘 해야 되겠죠. 기술 통계는 크게 평균, 중심값을 정하는 첫 번째, 양적 자료 같은 경우에 양적 자료가 저희가 연속형 수치 같은 거죠. 1. 양적 자료에 대한 표 값을 만들어야 합니다. 평균에 해당되는 부분입니다. 평균은 여러 종류의 평균이 있다고 앞에서도 말씀드렸고요. 평균을 중심으로 얼마나 양적 자료들이 퍼져 있는지, 연속형 자료들이 퍼져 있는지 보는 것들은 기술 통계 자료의 요약이론 기술 통계 자료의 요약이론 기술 통계 자료의 요약이론 기술 통계 자료의 요약이론 첨도는 끝이 얼마나 뾰족하냐, 정규분포 모양은 이렇게 종 모양인데 이 모양이 더 뾰족할 수도 있거든요. 또 아니면 좀 약간 넓게, 좀 약간 그 밑으로 돼 있을 정도로 퍼져 있는 경우도 있을 거거든요. 그게 첨도예요. 얼마나 뾰족하게 되어 있느냐, 이렇게 되는 것도 이제 분포의 모양을 보는 척도도 있다 라는 얘기를 하고 있는 거고요. 당연히 뭐 최대값, 최소값 이런 것들도 기술 통계에 해당되는 부분이겠습니다. 지금 통계를 설명하면서 저희가 이제 자료 중에 질적 자료, 양적 자료를 계속해서 나누고 있거든요. 뭐 범주형 데이터 뭐 이런 식으로 해서 데이터 척도를 다시 한번 저희가 설명을 해드리면 통계학에서 보는 자료는 크게 두 가지 자료죠. 하나는 질적 자료라고 부르고요. 하나는 양적 자료라고 부르죠. 가면 갈수록 데이터의 정보가 많아지는 거예요. 명목, 순서 척도 같은 경우 범주형 데이터라고 했던 부분이고요. 대부분 명목, 순서 척도 같은 경우에는 뭐냐면 순서나 크기가 의미가 없어요. 다시 말하면 그냥 구분만 하죠. 구분만. 단순히 구분만 합니다. 코드 같은 거, 차 번호, 성별, 복권번호 이런 거 구분만 하는 거예요. 구분하고 순서, 두 가지 정보가 있습니다. 구분도 되면서 순서까지 하나 더 갖고 있는 게 바로 이제 우리나라 선호도 조사 같은 거 있죠. 1번 매우 만족, 2번 다소 만족, 3번 적당히, 4번, 5번 이런 식으로 해서 1, 2, 3, 4, 5 선호도 같은 거 조사를 많이 하잖아요. 저희가 그런 거 할 때도 구분도 되면서 사실은 1번하고 2번, 1번이 더 좋은 거죠. 많이 그 좋은 긍정적인 평가를 받았으니까요. 순서도 있는 거죠. 순서 척도고요. 이 두 가지가 바로 우리가 말하는 질적 자료에 해당되는 거고, 양적 자료에 해당되는 부분이 구간 척도인데요. 구간 척도는 구분도 되고요. 위에 걸 가져오는 거예요. 정보량이 많다는 게 이런 거예요. 순서도 있고, 그다음에 구간도 있어요. 구간에 관한 정보도 있어서 대기표 번호, 화씨 온도, 지능지수, 표준점수 등이 구간 척도에 해당됩니다. 가장 많은 정보를 갖고 있는 게 비율 척도죠. 비율 척도는 절대적인 0이 존재하기 때문에 드디어 이제 나누기가 가능한 완전한 사칙연산, 더하기 빼기 곱하기 나누기 이런 게 된다는 얘기죠. 빼기 곱하기 나누기 이런 게 되는, 완전히 나누기까지 가능한 우리가 말하는 통계학에서 가장 많은 정보를 갖고 있는 자료가 바로 비율 척도에 해당되는 거고요. 우리가 많이 말하던 몸무게, 여러분 몸무게나 키나 속도 이런 것들 하는 겁니다. 길이 뭐 이런 것들이 모두 다 비율 척도에 해당되는 거죠. 우리가 말하는 연속적 자료가 바로 거의 비율 척도라고 생각하고 들어가는 겁니다. 그래서 크게 질적 자료, 양적 자료 나눌 수 있고, 질적 자료는 다시 명목 척도, 순서 척도, 양적 자료는 구간 척도, 비율 척도 이렇게 나눌 수가 있습니다. 저희가 기술 통계를 하면서 자료의 요약을 해야 되잖아요. 그 자료의 요약에 아까도 말씀드렸던 걸 간단히 말씀드려서 다시 한번 정리를 좀 해드렸어요. 대표값에 해당되는 부분이죠. 평균에 해당되는 값들, 그다음에 산포라고 해서 얼마나 평균을 중심으로 해서 수치를 이용한 대표값은 연속적인 자료에 대해서만 적용 그러면 연속적인 자료가 아닌 저희가 이제 질적 자료라고 얘기했던 부분이 있었죠. 범주형이나 순서형 자료의 요약 기법은 아까하고 다를 수가 있어요. 그래서 그때는 저희가 이제 그래프 같은 경우에는 도수 분포표, 결국은 범주별로 남자가 몇 명 여자가 몇 명 이렇게 세는 거죠. 세서 비율을 파악한 다음에, 또는 저희가 이제 R에서 table이라는 함수가 있어요. 그래서 그 도수 분포표처럼 몇 개인지, 각 건당 범주형 구분마다 몇 건인지 저희가 기술 통계 자료의 요약이론 기술 통계 자료의 요약이론 기술 통계 자료의 요약이론 연속형 자료는 평균, 중심값, 산포도 구할 수 있습니다. 사실 정보량이 많은 게 뭐가 많죠? 양적 자료들이 훨씬 많은 거죠. 1번 같은 경우는 자료 요약이 양적 자료이고요. 두 번째 자료는 질적 자료라고 생각하시면 좋겠습니다. 저희가 아래에서 한번 예전에 저희가 단일 변수하고 다중 변수 하면서도 그래프를 살펴보긴 했었어요. 그래서 간단하게 기술 통계로 다시 한번 양적 자료, 질적 자료를 저희가 어떻게 표현할 수 있는지, 또는 아주 풍부한 내장 함수가 R에서는 있기 때문에 그 내장 함수들이 무엇이며 어떻게 표현할 수 있는지 간단히 한번 해보도록 하겠습니다. 수치형 자료의 기술 통계부터 살펴볼 건데요. 제가 살펴볼 데이터셋은 iris 데이터셋이에요. iris 데이터셋은 데이터 마이닝에서 굉장히 유명한 데이터셋이죠. 그래서 저희가 일명 말하기는 머신러닝의 Hello World다 이런 식으로, 모든 프로그램을 세팅하고 나면 환경을 세팅하고 Hello C, Hello Java 기술 통계 자료의 요약이론 기술 통계 자료의 요약이론 기술 통계 자료의 요약이론 기술 통계 자료의 요약이론 150개의 행과 4개의 칼럼, Sepal.Length, Sepal.Width, Petal.Length, Petal.Width 기술 통계 자료의 요약이론 기술 통계 자료의 요약이론 기술 통계 자료의 요약이론 꽃받침이나 꽃잎의 너비나 길이를 맞추는 작업을 하게 되면 이제 거꾸로 회귀도 될 수 있고요. 이 데이터를 가지고 저희가 분류도 해보고 또 뭐도 해보냐면 예를 들면 꽃의 종류를 모른다고 감추고 나서 마지막에 있는 칼럼들을 감추고 나서 군집 분석도 해보거든요. 그래서 굉장히 좀 여러모로 자주 쓰이는 그런 데이터셋이 바로 iris 데이터셋, 붓꽃 데이터셋입니다. 저희가 summary를 붓꽃 데이터셋을, 이건 R에서 내장 데이터셋이기 때문에 외부 데이터가 아니고 그냥 불러서 쓸 수가 있고요. 내장 데이터셋을 확인할 때 데이터 데이터를 확인해 본 거에요 아이리스가 있는지 없는지 확인해 본 거고요 내장 데이터셋은 이러면 불러오는 격이 되는 거니까 메모리에 헤드를 보시면 앞에서 6개만 보겠다 그랬더니 6개 나왔는데 세토사가 50개니까 앞에서 50개가 쭉 나오거든요 그래서 이렇게 본 부분이고요 이렇게 관측한 거죠 첫 번째 데이터는 여기 있는 꽃받침에 세팔이 꽃받침이고요 페탈이 꽃잎이거든요 그래서 어쨌든 5.1, 3.5, 1.4, 0.2 이렇게 되면 이게 세토사였다 라고 150개 관측치를 50개씩, 50개씩, 50개씩 된 데이터라고 생각하시면 좋겠고요 시험 문제는 이 서머리 부분이 상당히 많이 나오거든요 그래서 서머리에 대해서도 많이 아셔야 되는데 이 데이터셋 말고도 다른 데이터셋도 서머리를 할 수가 있어요 그래서 아이리스 서머리를 하게 되면 이 데이터셋에 대해서 결국 데이터셋이 데이터 프레임 형식으로 지금 주어지고 있죠 우리 데이터 구조 중에서 데이터 프레임 형식으로 주어지고 있는데 이 iris의 summary라고 하면 이 summary 함수를 쓰게 되면 각 데이터의 요약 정리를 해주는데 뭐가 시험문제에 잘 나오냐면 여기 있는 4개의 칼럼이 있죠. 4개의 칼럼 어때요? 모두 다 연속적인 수치죠. 연속적인 수치에 대해서는 여기가 뭘 해주냐면 요약 통계를 내주는데 말 그대로 기술 통계를 해주는 거죠. 서머리 자체가. 민값, 맥스값, 최솟값, 최댓값, 1사분위수, 3사분위수, 그 다음에 평균도 두 개를 다 줘요. 산술평균하고 중앙값, 미디안하고 다 줍니다. 수치형 데이터는 이렇게 보여주는데 맨 끝에 있는 칼럼은 좀 다르죠 스피시스는 이 칼럼은 다릅니다 나머지 4개의 칼럼하고는 다른 요약 정리를 해주는데 이게 바로 저희가 말하는 팩터형이에요 팩터형으로 들어가 있어서 그런 거고요 팩터형에 해당되기 때문에 이 팩터는 범주형 데이터거든요 팩터형으로 정해줬기 때문에 팩터형 데이터로 기술 통계 자료의 요약 이론 기술 통계 자료의 요약 이론 틀린 보기 중에 아이리스는 총 200개의 관측치가 있다 이렇게 나오는데 아니죠 다 더하면 150밖에 안 되니까 이렇게 틀린 보기로 자주 나오면서 서머리는 저희가 수치형 데이터 연속형 데이터가 어떻게 해주더라 6개의 통계치로 기술 통계를 해주는 거고 만약 팩터형 데이터면 어떻게 해주더라 개수를 세주더라 이런 거죠 말 그대로 테이블을 이용해서 개수를 센 거였겠죠 개수를 세주더라 이걸 합하면 총 개수가 되겠다 라고 이렇게 할 수가 있어서 서머리에 대해서도 서머리가 수치형 데이터랑 범주형 데이터가 좀 다르게 요약 정리를 해주더라 라고 생각하시면 좋겠습니다 범주형 자료를 표현하는 그래프 모양을 보시면 범주형 자료는 도수분포표, 막대그래프, 원그래프, 분할표 이런 걸 할 수가 있었는데요 그러면 연속형 자료는 그래프를 어떻게 표현하냐? 히스토그램과 줄기잎그림, 선그래프, 산점도 이렇게 표현할 수가 있습니다 각각의 설명과 특징들을 해놨고요 실습을 통해서 양쪽 자료도 그래프화 시켜서 기술 통계로 시각화하는 걸 어떻게 하는지 한번 해보겠습니다
