Feedback #1

github-classroom · 2024-09-30T04:29:55Z

👋! GitHub Classroom created this pull request as a place for your teacher to leave feedback on your work. It will update automatically. Don’t close or merge this pull request, unless you’re instructed to do so by your teacher.
In this pull request, your teacher can leave comments and feedback on your code. Click the Subscribe button to be notified if that happens.
Click the Files changed or Commits tab to see all of the changes pushed to the default branch since the assignment started. Your teacher can see this too.

Notes for teachers

Use this PR to leave feedback. Here are some tips:

Click the Files changed tab to see all of the changes pushed to the default branch since the assignment started. To leave comments on specific lines of code, put your cursor over a line of code and click the blue + (plus sign). To learn more about comments, read “Commenting on a pull request”.
Click the Commits tab to see the commits pushed to the default branch. Click a commit to see specific changes.
If you turned on autograding, then click the Checks tab to see the results.
This page is an overview. It shows commits, line comments, and general comments. You can leave a general comment below.
For more information about this pull request, read “Leaving assignment feedback in GitHub”.

Subscribed: @cukminseo @Sujinkim-625 @yeseoLee @hsmin9809 @koreannn @gayeon7877

as-is: lr, epoch가 default로 설정되어 실행됨. be-to: lr, epoch 등 커스터마이징이 가능하도록 코드 추가 #5

feat: argument.py 기능 코드 추가

[FEAT] 베이스라인 코드 간소화 #4

transformers.set_seed -> utils_qa.set_seed 로 변경 시드 상수화 및 set_seed 함수 default 인자 값에 의존하도록 변경하여 시드 통일 [FEAT] 베이스라인 코드 간소화 #4

evaluation_strategy -> eval_strategy [FEAT] 베이스라인 코드 간소화 #4

Feat/베이스라인 코드 간소화

- 시드 상수로 관리하지 않고 학습 인자로 처리 - (실행 스크립트의 인자를 통해 시드 관리할 예정) - set_seed 함수 deterministic 인자 추가 [FEAT] 베이스라인 코드 간소화 #4

- model별 다른 return_token_type_ids를 적용 #4

Feat/베이스라인 코드 간소화 - 마무리

Feat/dense eval

- integration_pipeline에 retriever_file명 수정하여 train->test로 자동 전환 옵션 추가 - 오탈자 수정

… 필요)

Exp/rerank rerank 관련 오류 수정 및 전이학습 인자 추가

Exp/analysis retrieval Retrieval 및 Reranker 성능 분석

Feat/dense tuning

[feat]GPT기반앙상블코드구현

merge from Origin/develop to main

monologg · 2024-11-03T15:23:27Z

.gitignore

.vscode 도 추가해주면 좋습니다

기본적으로 github에서 제공하는 python gitignore에서 시작하면 어떨까 합니다

https://github.com/github/gitignore/blob/main/Python.gitignore

monologg · 2024-11-03T15:24:44Z

code/README.MD

+    --model_name_or_path klue/bert-base \
+    --config_name None \
+    --tokenizer_name None \
+    \


중간 \는 불필요해보입니다

monologg · 2024-11-03T15:25:25Z

code/README.MD

@@ -0,0 +1,70 @@
+# 실행 방법


dependency 설치가 빠져 있습니다. python version, cuda 버전 등도 기록해주세요

monologg · 2024-11-03T15:25:50Z

code/README.MD

+## 통합 파이프라인으로 실행
+```bash
+# train-eval-inference 통합 파이프라인
+python integration_pipline.py ./config/integration.json


Suggested change

python integration_pipline.py ./config/integration.json

python integration_pipeline.py ./config/integration.json

monologg · 2024-11-03T15:26:49Z

code/config/integration.json

@@ -0,0 +1,37 @@
+{
+    "model_name_or_path": "klue/roberta-small",


실제 리포트에 기록된 값들과 좀 달라보입니다

monologg · 2024-11-03T15:48:26Z

code/retrieval/elastic.py

+        if manual_mode:
+            return


manual_mode로 실행된다는 것을 가벼운 로그로 찍어주면 좋습니다.

코드 전반적으로 print를 사용하고 있는데 logger 쓰는 것 권장합니다.

https://github.com/Delgan/loguru 사용하면 쉽게 세팅 가능합니다

debug, info 레벨로 분리해주면 좋아요

monologg · 2024-11-03T15:49:07Z

code/retrieval/elastic.py

+    # elasticsearch 서버 세팅
+    def connect(self):
+        es = Elasticsearch(
+            "http://localhost:9200", timeout=30, max_retries=10, retry_on_timeout=True


"http://localhost:9200" -> 이 값을 처음 init 할때 self.host 와 같은 곳에 담아주세요

monologg · 2024-11-03T15:49:24Z

code/retrieval/elastic.py

+            print("Index already exists.")
+            return False
+
+        with open(self.setting_path, "r") as f:


Suggested change

with open(self.setting_path, "r") as f:

with open(self.setting_path, "r", encoding="utf-8") as f:

monologg · 2024-11-03T15:51:25Z

code/retrieval/tdidf.py

+            ngram_range=(1, 2),
+            max_features=50000,


__init__ 의 argument로 빼주세요

monologg · 2024-11-03T15:53:07Z

setup/requirements.txt

+# Data manipulation and analysis
+pandas
+numpy==1.24.1
+
+# Machine Learning libraries
+scikit-learn
+torch==1.13
+datasets==2.15.0
+transformers==4.25.1
+faiss-gpu
+
+# Progress and logging utilities
+tqdm
+wandb
+
+# Information retrieval libraries
+rank_bm25
+elasticsearch


모든 라이브러리는 반드시 버전을 고정해주세요

github-classroom bot and others added 30 commits September 30, 2024 04:29

Setting up GitHub Classroom Feedback

a7403b5

Create Issue Template feature.md

befcc79

Create Issue Template experiment.md

559cf40

Create pull_request_template.md

8b97bdb

Update Issue Template - feature.md

923dc13

Create Issue Template config.yml

771c294

Update config.yml

51be01a

Update feature.md

7fafbb1

Update experiment.md

dfceb08

Update experiment.md

d61de72

[STYLE]EDA관련 폴더, 파일 생성

4a66a07

feat: argument.py 기능 코드 추가

9f56c6f

as-is: lr, epoch가 default로 설정되어 실행됨. be-to: lr, epoch 등 커스터마이징이 가능하도록 코드 추가 #5

Merge pull request #7 from boostcampaitech7/feat/베이스라인-코드-간소화

4360412

feat: argument.py 기능 코드 추가

[chore] 초기 프로젝트 구성

b756570

style: Code Formatting

2cb99a9

[FEAT] 베이스라인 코드 간소화 #4

feat: seed 설정 통일

1af6048

transformers.set_seed -> utils_qa.set_seed 로 변경 시드 상수화 및 set_seed 함수 default 인자 값에 의존하도록 변경하여 시드 통일 [FEAT] 베이스라인 코드 간소화 #4

fix: deprecated Argument 제거

42c4a24

evaluation_strategy -> eval_strategy [FEAT] 베이스라인 코드 간소화 #4

[feat]train, test set에 대한 EDA

3e2d65c

[feat]wiki_corpus에 대한 EDA

3d54165

[feat]전처리 이후 새로운 json파일 생성 코드 추가

ebe6bd7

Merge pull request #8 from boostcampaitech7/feat/베이스라인-코드-간소화

beb6a41

Feat/베이스라인 코드 간소화

style: scripts -> setup 으로 폴더명 변경 #4

db27d3f

feat: git 세팅 스크립트 구현 #4

a91d4bf

style: utils_qa 간단한 주석 추가 #4

1ccefc9

feat: 시드 세팅 변경

50c8391

- 시드 상수로 관리하지 않고 학습 인자로 처리 - (실행 스크립트의 인자를 통해 시드 관리할 예정) - set_seed 함수 deterministic 인자 추가 [FEAT] 베이스라인 코드 간소화 #4

style: 주석 및 미사용 코드 정리 #4

f0ceaf0

feat: arguments base_model 추가

44938e8

- model별 다른 return_token_type_ids를 적용 #4

feat: run script 작성 (train & inference) #4

1a5f4df

Merge pull request #9 from boostcampaitech7/feat/베이스라인-코드-간소화

e3b15a7

Feat/베이스라인 코드 간소화 - 마무리

feat: elasticsearch 세팅 스크립트 작성

809cb9a

nevertmr and others added 26 commits October 22, 2024 19:18

Merge pull request #54 from boostcampaitech7/feat/dense_eval

f5dba5c

Feat/dense eval

feat: dense train 파일 수정

cbbe149

feat: wandb dir 수정

5dec3cc

feat: top-k notebook 수정

bfac4d4

feat: output dir 수정

6faf022

feat: output_dir 다시 수정

3cba8aa

fix: 오탈자 수정 및 작은 옵션 변경

ab70134

- integration_pipeline에 retriever_file명 수정하여 train->test로 자동 전환 옵션 추가 - 오탈자 수정

feat: argument에 전이 학습시 checkpoint 무시하는 옵션 추가

27d5451

feat: dense train 파일명 변경

3b7c14d

feat: DenseRetrieval 코드 수정 및 BertEncoder.py 모듈(train 및 retrieval 사용 시…

ff0d1a2

… 필요)

Merge pull request #55 from boostcampaitech7/exp/rerank

93dad5a

Exp/rerank rerank 관련 오류 수정 및 전이학습 인자 추가

feat: dense retrieval에 tqdm을 추가 → 문서 찾는 진행 상황 확인

b2a2781

feat: retriever 성능 평가

c8389f5

feat: retriever reranker 기반 negative passage 추가 데이터셋 생성

37f459b

Merge pull request #57 from boostcampaitech7/exp/analysis-retrieval

7bef96c

Exp/analysis retrieval Retrieval 및 Reranker 성능 분석

feat: top-k 확인 노트북 일부 수정

6bde379

feat: BertEncoder 외부로 저장

45c1535

Merge pull request #58 from boostcampaitech7/feat/dense_tuning

cf55edb

Feat/dense tuning

[feat]GPT기반앙상블코드구현

31104b1

Merge pull request #60 from boostcampaitech7/exp/LLM-voting

d8e524e

[feat]GPT기반앙상블코드구현

Merge pull request #61 from boostcampaitech7/origin/Develop

80bd026

merge from Origin/develop to main

docs: 노션으로 관리되는 문서 삭제

e8afb20

README 작성 및 렙업 리포트 업로드

411ffe2

Update README.md

2c54bcc

Update README.md

ac1bc0e

Update README.md

f2accd1

monologg suggested changes Nov 3, 2024

View reviewed changes

Sujinkim-625 and others added 3 commits November 11, 2024 14:44

README.md 수정

e3d513a

Update README.md

99e46a4

fix: change team member username

f42d398

Provide feedback

Saved searches

Use saved searches to filter your results more quickly

Uh oh!

Feedback #1

Feedback #1

Uh oh!

github-classroom bot commented Sep 30, 2024 •

edited

Loading

Uh oh!

monologg Nov 3, 2024

Uh oh!

monologg Nov 3, 2024

Uh oh!

monologg Nov 3, 2024

Uh oh!

monologg Nov 3, 2024

Uh oh!

monologg Nov 3, 2024

Uh oh!

monologg Nov 3, 2024

Uh oh!

monologg Nov 3, 2024

Uh oh!

monologg Nov 3, 2024

Uh oh!

monologg Nov 3, 2024

Uh oh!

monologg Nov 3, 2024

Uh oh!

monologg Nov 3, 2024

Uh oh!

Reviewers

Assignees

Labels

Projects

Milestone

Development

Uh oh!

7 participants

	python integration_pipline.py ./config/integration.json
	python integration_pipeline.py ./config/integration.json

		@@ -0,0 +1,37 @@
		{
		"model_name_or_path": "klue/roberta-small",

	with open(self.setting_path, "r") as f:
	with open(self.setting_path, "r", encoding="utf-8") as f:

Feedback #1

Are you sure you want to change the base?

Feedback #1

Uh oh!

Conversation

github-classroom bot commented Sep 30, 2024 • edited Loading Uh oh! There was an error while loading. Please reload this page.

Uh oh!

Uh oh!

Choose a reason for hiding this comment

Uh oh!

Choose a reason for hiding this comment

Uh oh!

Choose a reason for hiding this comment

Uh oh!

Choose a reason for hiding this comment

Uh oh!

Choose a reason for hiding this comment

Uh oh!

Choose a reason for hiding this comment

Uh oh!

Choose a reason for hiding this comment

Uh oh!

Choose a reason for hiding this comment

Uh oh!

Choose a reason for hiding this comment

Uh oh!

Choose a reason for hiding this comment

Uh oh!

Choose a reason for hiding this comment

Uh oh!

Reviewers

Assignees

Labels

Projects

Milestone

Development

Uh oh!

7 participants

github-classroom bot commented Sep 30, 2024 •

edited

Loading