Feedback #1
Feedback #1
Conversation
* source 폴더에 있는 fine_tuning.py 존재
* chat template을 적용하고 special token 조정 * wandb 세팅 * 기타 path 오류 수정
.github/ISSUE_TEMPLATE/❓-question.md
Outdated
There was a problem hiding this comment.
Issue Template을 통해서 이슈를 관리하시려고 하신 부분 너무 좋았습니다. 다만, 실제 open/closed된 이슈를 봤을 때 적극적으로 활용되지 못한 것은 좀 아쉬운 부분인 것 같습니다. 다음 번에는 해당 부분을 조금 더 활용해보시는 것도 좋을 것 같습니다.
|
|
||
| # **💥 결과** | ||
|
|
||
| | 모델 | 결과(Test Data) | 비고 | |
|
|
||
| # **💥 결과** | ||
|
|
||
| | 모델 | 결과(Test Data) | 비고 | |
There was a problem hiding this comment.
추가적으로 모델들에 대해서 나열을 할 때에는 '결과'나 '이름'등 정렬규칙이 있으면 좋을 것 같습니다. 또한, 실제 사용한 모델들이나 강조하고자 하는 부분에서는 표시를 해주셔도 좋을 것 같습니다.
| | Query | BM25 | Sentence BERT | | ||
| | --- | --- | --- | | ||
| | 미적인 것은 윤리적으로 좋은 것의 상징이다. 미적인 것은 다른 모든 사람들의 동의를 요구하며 요구해야 마땅하다 . 이때 우리의 마음은 쾌락의 단순한 감각적 수용을 넘어선 순화와 고양을 의식하며 , 다른 사람들의 가치도 그들이 지닌 판단력의 비슷한 준칙에 따라서 평가하게 된다. '다음을 주장한 사상가의 입장으로 가장 적절한 것은 ? | 인식론에서 합리론 (合理論, 합리주의 (合理主義) 또는 이성주의 (理性主義)는 이성을 지식의 제일의 근원으로 보는 견해를 말한다. 합리론에서의 진리의 기준은 감각적인 것이 아니라 이성적이고 연역적인 방법론이나 이론으로 정의된다. 합리론자는 … [인식론에 관한 문서] | 취미판단 ()은 이마누엘 칸트의 비판철학에서 미 판단 양식 일종으로서 미 인상 결정이 취미라고 간주하는 처지에서 하자(何者)를 아름답다거나 미에 관계하여 쾌감을 제공한다는 단정을 운위한다. 대상이 아름다운지 여부를 구별하려는 때 사람은 그 표상을 인식하고자 지성으로써 객관과 … [판단력 비판에 관한 문서] | | ||
| 4. **Prompt Engineering** |
There was a problem hiding this comment.
해당 내용들의 코드가 포함되어 있지 않은 것 같아서, 이와 관련된 부분을 추가해주시면 좋을 것 같습니다. 이때, 프롬프트를 별도의 파일로 관리하셔도 좋을 것 같은데, yaml 파일을 통해 관리해보시는 것도 추천드립니다.
There was a problem hiding this comment.
해당 노트북 파일에는 해당 단계에서는 어떤 테스트를 진행했는 지에 대해서 명시가 되면 좋을 것 같습니다. 코드를 처음 보는 분들에게는 히스토리가 없다보니 이해를 함에 있어서 어렵지 않을까 생각이 듭니다.
There was a problem hiding this comment.
github action을 통해서 코드의 스타일을 관리하려고 하는 부분은 좋은 것 같습니다. CI/CD에 대한 고민은 장기적인 코드 유지보수를 위해 필요한 부분이라고 생각합니다.
| from tqdm import tqdm | ||
| from transformers import AutoModelForCausalLM, AutoTokenizer # BitsAndBytesConfig | ||
|
|
||
| # from trl import DataCollatorForCompletionOnlyLM, SFTConfig, SFTTrainer |
There was a problem hiding this comment.
사용하지 않는 라이브러리에 대해서는 main 브랜치에서는 제거를 하는 것이 혼동을 적게 줄 수 있는 방향인 것 같습니다.
There was a problem hiding this comment.
전체적으로 함수에 대한 주석이 추가되면, 해당 코드를 이해하는데, 조금 더 도움이 될 수 있을 것 같습니다.
| return processed_dataset | ||
|
|
||
|
|
||
| def train(cfg): |
There was a problem hiding this comment.
해당 부분은 클래스로 모듈화해서 사용하실 수도 있지 않을까 하는 생각이 들어서 제안드려봅니다.
There was a problem hiding this comment.
해당 py파일에 대한 .sh파일도 inference 처럼 같이 있어도 좋을 것 같습니다.
* 실행방법추가
docs: Update README.MD
👋! GitHub Classroom created this pull request as a place for your teacher to leave feedback on your work. It will update automatically. Don’t close or merge this pull request, unless you’re instructed to do so by your teacher.
In this pull request, your teacher can leave comments and feedback on your code. Click the Subscribe button to be notified if that happens.
Click the Files changed or Commits tab to see all of the changes pushed to the default branch since the assignment started. Your teacher can see this too.
Notes for teachers
Use this PR to leave feedback. Here are some tips:
For more information about this pull request, read “Leaving assignment feedback in GitHub”.
Subscribed: @elwhyjay @starlike6617 @imJeongmi @0618yujin @wonsjeong @Mujae