일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | |||||
3 | 4 | 5 | 6 | 7 | 8 | 9 |
10 | 11 | 12 | 13 | 14 | 15 | 16 |
17 | 18 | 19 | 20 | 21 | 22 | 23 |
24 | 25 | 26 | 27 | 28 | 29 | 30 |
- 알파줄거리
- 기사스크랩
- 감사인사
- 영화 올드 줄거리
- ㅂㅂ
- 독서
- GA
- 구글애널리틱스4
- 티스토리
- 니다
- 데이터 분석
- 벚꽃개화시기
- 벚꽃
- Google Analytics
- 코오롱베네트
- Python
- 미라클 모닝
- 얼음여왕
- 데이터문해력
- 6시 기상
- 채용공고
- 명상
- GA4
- 수명예측 인공지능
- 구글애널리틱스
- 코딩
- 프로그래머스
- Today
- Total
목록데이터 분석/ML&DL&NLP (10)
Data Analyst KIM
Attention은 모델이 각 단계에서 서로 다른 입력 요소의 중요성에 가중치를 다르게 부여하는 방법이다. Attention의 구현 원리는 다음의 그림과 같다. 먼저 인코더와 디코더 사이에 층이 하나 생긴다. 새로 삽입된 층에는 각 셀로부터 계산된 스코어들이 모인다. 이 스코어를 이용해 softmax 함수를 사용해서 Attention 가중치를 만든다. 예를 들어 '당신께'라는 자리에 가장 적절한 단어는 'you'라는 것을 학습한다. 이러한 방식으로 매 출력마다 모든 입력 값을 활용하게 하는 것이 어텐션이다. 마지막 셀에 모든 입력이 집중되는 RNN의 단점을 극복해낸 알고리즘이다. Attention을 활용하여 구현을 해보자. !pip install attention from tensorflow.keras...
순환 신경망(RNN, Recurrent Neural Network) 연속된 데이터가순서대로 입력되었을때 앞서 입력받은데이터를 잠시 기억해 놓는 방법 기억된 데이터 당 중요도 가중치를 주면서다음 데이터로 넘어감 모든 입력 값에 이 작업을 순서대로실행. 다음 층으로넘어가기 전 같은 층을 맴도는 것처럼보임 LSTM(Long Short Term Memory) → RNN의 기울기 소실 문제 보완을위해 나온 방법 한 층에서반복되기 직전에 다음 층으로 기억된 값을 넘길지 관리하는단계를 하나 더 추가하는것 1. LSTM을 이용한 로이터 뉴스 카테고리 분류하기 입력된 문장의 의미를 파악하는 것은 모든 단어를 종합하여 하나의 카테고리로 분류하는 작업 로이터 뉴스를 읽고 어떤 의미를 지니는지 카테고리 분류 로이터 뉴스 데이..
사이킷런의 Model Selection 모듈에서 제공하는 기능 학습 데이터와 테스트 데이터 세트 분리 교차 검증 분할 및 평가 하이퍼 파라미터 튜닝 1. 학습 데이터와 테스트 데이터 세트 분리 데이터를 분리하기 위해서는 train_test_split을 사용을 해야한다. X_train, X_test, y_train, y_test로 나누게 된다. 그 이유는 정확도를 계산 하려면 실제 값과 같은지 다른지를 파악해야하기 때문이다. X_train과 y_train로 학습을 한다. 여기서 feature는 X_train이 되고 Target은 y_train이 된다. 모델링에서 학습을 한 후 X_test를 이용하여 예측을 수행한다. 예측 결과와 y_test를 비교하여 정확도를 계산한다. 기본 코드는 다음과 같다. 여기서 ..
사이킷런 기반 프레임워크 학습 및 예측을 위해 fit(),predict()를 제공 분류와 회귀의 다양한 알고리즘 구현 분류 모듈명 설명 예제 데이터 sklearn.datasets 사이킷런 내장 데이터셋 데이터분리,검증 & 파라미터 튜닝 sklearn.model_selection train_test_split,교차검증,GridSearchCV를 이용하여 데이터 분리,검증 및 튜닝 피처 처리 & 차원 축소 skelarn.decomposition 차원 축소과 관련한 알고리즘을 지원 ex) PCA,NMF,Truncated SVD 평가 sklearn.metrics 성능 측정 ex) Accuracy,Recall,Precision,ROC-AUC,RMSE 등 알고리즘 - sklearn.ensemble - sklearn...