본문 바로가기

AI/LLaMA, Alpaca, Vicuna5

Vicuna Vicuna : llama를 사용자 대화로 파인튜닝한 오픈 소스 챗봇 라마를 파인튜닝한 13B 모델. ShareGPT의 70K 공개된 데이터로 학습함. GPT-3로 평가했을 때 ChatGPT, Bard의 90% 성능을 달성함. Vicuna-13B를 트레이닝할 때 300달러가 들어감. 트레이닝 코드와 실행 코드를 공개함. : GitHub - lm-sys/FastChat: The release repo for "Vicuna: An Open Chatbot Impressing GPT-4" 비쿠냐 온라인 데모 : FastChat Gradio Build & Share Delightful Machine Learning Apps gradio.app GPU로 돌리면 28GB (경량화 시 18GB) 정도가 필요하다. CP.. 2023. 4. 16.
GPT4All GPT4All: Training an Assistant-style Chatbot with Large Scale Data Distillation from GPT-3.5-Turbo는 2023년 3월 20일부터 26일까지 GPT-3.5-Turbo OpenAI API를 사용하여 대화 쌍을 수집하고 이를 통해 학습한 챗봇입니다. 이 챗봇은 단어 문제, 이야기 설명, 멀티턴 대화 및 코드를 포함한 대규모 선별된 상호작용 말뭉치로 훈련되었습니다. 이들은 데이터, 데이터 선별 절차, 훈련 코드 및 최종 모델 가중치를 공개적으로 공개하여 개방적인 연구와 재현성을 촉진하기 위해 제공됩니다. 또한, CPU에서 모델을 실행할 수 있도록 모델의 4비트 양자화 버전도 공개적으로 제공됩니다. LLaMa 기반 ~800k GPT-3... 2023. 4. 2.
ChatDoctor ChatDoctor는 LLaMA 모델을 기반으로 한 차세대 AI 의사 모델입니다 . https://github.com/Kent0n-Li/ChatDoctor GitHub - Kent0n-Li/ChatDoctor Contribute to Kent0n-Li/ChatDoctor development by creating an account on GitHub. github.com 설치방법 pip install -r requirements.txt 이 프로젝트의 목표는 환자에게 의료 질문에 답하고 개인화된 의료 조언을 제공할 수 있는 지능적이고 신뢰할 수 있는 의료 동반자를 제공하는 것입니다. 데이터 및 모델: 1. ChatDoctor 교육 데이터 세트: 다음 교육 데이터 세트를 다운로드할 수 있습니다. Health.. 2023. 4. 1.
Alphaca Alpaca는 LLaMA 언어모델을 Stanford 사용자의 명령어에 언어모델이 잘 답변할 수 있도록 Instruction-following 데이터로 파인튜닝한 모델입니다. 스탠포드 알파카(Stanford Alpaca)는 스탠포드 대학교 연구팀이 개발한 자연어 처리(NLP) 기술을 기반으로 하는 AI 프로그램입니다. 알파카는 대화를 이끌어 나가는 인공지능 기술로, 자연어 처리를 통해 사용자와 의미있는 대화를 나눌 수 있습니다. 이 프로젝트의 목표는 인공지능이 사람처럼 대화를 이해하고, 자연스럽게 응답할 수 있는 능력을 개발하는 것입니다. 스탠포드 알파카는 다양한 분야의 정보를 학습하고, 이를 바탕으로 사용자의 질문에 정확하고 신속하게 답변할 수 있도록 설계되었습니다. 기계 학습, 딥 러닝, 자연어 처리,.. 2023. 3. 30.