본문 바로가기

전체 글204

12. Evaluation & Ensemble Classification Model의 성능을 측정하는 방법과 앙상블에 대해서 다룰 것이다 Accuracy Evaluation 모델의 정확성을 평가 테스트 데이터를 통해서 모델의 분류 정확성을 평가 한다 Test Data 정확성 측정을 위해 사용되는 데이터 셋 의 형태 모델에 입력할 때는 정답 클래스를 제외하고 입력한 후, 예측값과 주어진 Class Label을 비교한다 Accuray = 모델이 정확하게 분류한 개수 테스트 데이터는 학습에 사용되지 않은 독립적인 데이터여야 한다 학습에 사용된 데이터로 테스트를 하는 건, 이미 답을 아는 문제를 푸는 것임 Confusion Matrix 분류 모델 성능 평가 지표 각 엔트리는 class i인 데이터에 대해 모델이 class j로 예측한 개수를 의미한다 Tru.. 2024. 4. 16.

9. 데이터 추가 및 연동 이번 활동 요약 지난 번에 구축해둔 서버에 데이터를 추가하고, 프론트와 연동하는 작업을 진행했다 이전까지 백엔드 서버를 구축하고 기본적인 CRUD를 구현했었다 이번에는 DB에 더미 데이터를 추가하고, 프론트엔드에서 API로 데이터를 불러오는 것까지 진행을 했다 데이터 추가 기존에 프론트에서 직접 저장하여 쓰고있던 데이터를 DB에 추가하는 작업을 했다 초기 데이터 저장을 위해 프론트에서 String 형태로 가지고있던 데이터를 파싱해서 서버에 저장했다 이때, 클러스터링을 해서 미리 클러스터별로 색상을 지정해서 색상값도 함께 저장했다 원래는 이 로직을 프론트에서 직접 한 다음, 데이터를 그려내고 있었는데 DB에서 받아오게 된다 이미 모든 준비가 된 데이터를 받아와서 출력하기 때문에, 초기 화면 구성이 빨라졌을.. 2024. 4. 14.

11. Rule Based Classification Rule에 기반한 분류기 기본적인 아이디어는 IF-THEN을 사용하는 것 Ex) IF age = youth AND student = false THEN buys_computer = no 데이터의 수가 그렇게 많지 않은 경우에 사용할 수 있다 이 Rule들은 Domain Experts (Human Experts)에 의해서 만들어진다 특정 데이터가 여러 개의 Rule에 부합하는 경우에는 Conflict Resolution이 필요하다 Size Ordering Rule의 Size라는 것은 IF문에 걸려있는 Feature의 수 즉, Size가 크다는 것은 Rule이 구체적이고 Toughest 하다는 것이다 Size가 큰 Rule일수록 더 높은 우선순위를 주는 방식 Class-based Ordering Miscla.. 2024. 4. 14.

10. Overfitting Training Data를 사용해서 Decision Tree를 Top-down 방식으로 학습하는 것을 봤다 학습을 언제 종료하는 것이 좋을까? 노드에 있는 모든 데이터들이 같은 Class를 가질 때까지 분류한다 그러면 학습 데이터에 대해서 100% 분류 정확도를 보이는 Decision Tree가 만들어지게 된다 위처럼 학습이 되면 주어진 데이터에 대해 100% 정확히 분류하는 Decision Tree가 학습되었다 이게 과연 좋은 것일까? 아니다. Overfitting이 된 것 이다 Overfitting of Decision Tree Models Decision Tree는 Overfitting이 발생한다는 문제 가 있다 Overfitting이 된다는 것은 왜 문제일까 너무 많은 Branch가 생기게 되고,.. 2024. 4. 14.

9. Decision Tree What is Decesion Tree? Decision Tree는 특정 조건에 기반하여 결정에 대한 모든 가능한 해결책을 시각적으로 나타낸 그래픽 표현이다 중간 노드는 여러 Alternatives 중에 어떠한 선택을 의미한다 리프 노드는 최종 Decision을 의미한다 그림에서 나이가 30세 이하이고, 학생이 아니면 컴퓨터를 사지 않을 것이라고 예측 Algorithm Overview Decision Tree 알고리즘의 대략적인 과정 분할정복을 사용해서 Top-down 방식으로 트리를 형성한다 처음에는 모든 Training data는 Root로부터 시작한다 데이터들은 현재 단계에서 선택된 Feature를 기준으로 Recursive하게 나뉜다 이때 현재 단계에서 어떤 Feature를 선택할지는, Heuri.. 2024. 4. 13.

8. Classification Classification이란 주어진 데이터에 대해서 Class label을 예측하는 것 Classificaiotn vs Regression 둘은 어떤 차이가 있을까? Classification 주어진 데이터에 대해 Categorical한 Class label을 예측 하는 것 학습 데이터를 통해서 Classifier를 학습시킨 다음, 새로운 데이터를 모델에 넣어서 결과를 예측 Ex) 날씨가 추운지 안 추운지 판별하는 모델 Regression Continuous한 값을 뱉어내는 모델을 학습시킨다 Unknown하거나 Missing된 값을 모델을 사용해서 예측한다 연속된 값을 예측 하는 모델을 만드는 것 Ex) 기온을 예측하는 모델 Classification Classification을 수행하는 모델은 어떻게.. 2024. 4. 13.

7. Association Rules Frequent Pattern을 추출했으니, 이것을 이용해서 Association Rule들을 만들고 평가해야 한다 Association Rules Mining Multilevel Association Mining Multidimensional Association Mining Quantitative Assocation Mining Interesting Correlation Patterns Mining Multilevel Association Rules Item들은 종종 계층 구조를 형성한다 예를 들면, Milk와 2% Milk Milk가 2% Milk의 상위 개념이라고 볼 수 있다 각 계층마다 유연하게 Minimum Supoort를 설정해주는 것이 필요하다 계층이 내려갈수록 당연히 Support가 작아.. 2024. 4. 13.

6. Miner Improvements 지금까지 Frequent Pattern Mining을 하기 위한 다양한 방법들을 살펴보았다 Apriori는 Candidate의 수를 줄여주긴 하지만 여전히 그 수가 너무 많고, DB 접근도 너무 많다 그래서 이걸 개선하기 위한 Improving Apriori 알고리즘들을 보았다 그럼에도 여전히 Candidate를 생성하고, Test하는 것이 무거운 작업이라 이것을 하지 않아도 되는 FP-growth라는 방법도 봤다 이것 외에 다른 마이닝을 Improve할 수 있는 방법들을 살펴볼 것이다 MaxMiner Mining Max Patterns Recall Max Pattern : Max Pattern은 X의 Superset(X ⊂ Y) 중에 Frequent Pattern이 존재하지 않으면, Itemset X를.. 2024. 4. 13.

5. FP-growth Frequent Pattern Growth 이전까지는 Apriori algorithm을 사용해서 Freqeunt Pattern Mining을 하는 방법을 봤다 Apriori의 한계를 개선한 Improving Apriori 방법들도 살펴보았다 DIC, Partition, Sampling, DHP 그럼에도 여전히 느리다는 문제가 있다 Candidate를 생성하고, Test하는 과정 자체가 시간이 오래 걸림(Bottleneck) FP-growth Mining Frequent Patterns without Candidate Generation Candidate를 Generate하는 것 자체를 하지 않는 방법 Local Frequent Item들을 사용해서, 짧은 Pattern으로부터 긴 Pattern을 생성해내.. 2024. 4. 13.

이전 1 2 3 4 ··· 23 다음

티스토리툴바