AI51 Git 이란? Git 은 '분산 버전관리 시스템 DVCS(Distributed Version Control Systems)'으로컴퓨터 파일의 변경사항을 추적하고, 여러명의 사용자들 간에 파일에 대한 작업을 조율하는데 사용됩니다.주요 기능:1. 변경 기록: 파일을 여러 번 수정해도, 이전 버전으로 돌아가거나, 누가 어떤 변경을 했는지 알 수 있어요.2. 백업: 실수로 파일을 지우거나 문제가 생기면, 이전 상태로 복구할 수 있어요.3. 분산 저장: 팀원 각각의 컴퓨터에 프로젝트가 저장되기 때문에, 중간에 서버가 다운되도 작업을 잃지 않아요.4. 브랜치: 여러 가지 기능을 동시에 개발할 때, 서로 영향을 주지 않고 독립적으로 작업할 수 있는 '가지' 같은 것을 만드는 기능이에요. 나중에 하나로 합치기도 해요(merge). .. 2024. 9. 4. RAG란 무엇인가? Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks 서론"Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks"는 자연어 처리(NLP) 작업에서 정확성과 효율성을 높이기 위해 검색 기능을 통합한 생성 모델을 제안하는 논문입니다. 기존의 대형 언어 모델은 파라미터 내에 내장된 지식을 바탕으로 작업을 수행하지만, 최신 정보나 모델이 학습하지 않은 지식에 접근하기 어려운 한계가 있었습니다. 이 문제를 해결하기 위해 논문에서는 RAG(Retrieval-Augmented Generation)라는 새로운 접근 방식을 도입하였습니다.2. RAG 모델의 구조RAG 모델은 두 가지 주요 구성 요.. 2024. 9. 3. vLLM 이란 뭘까? [vLLM]코드 실습 vLLM 이란 뭘까? 안녕하세요. 머킹입니다.vLLM을 사용하고자 vLLM에 대해서 조금 알아보았습니다.아래 examples 예제도 많으니 꼭 시도해보세요! vLLM: 대형 언어 모델 서빙의 새로운 기준대형 언어 모델(LLM)은 오늘날 다양한 응용 프로그램에서 핵심적인 역할을 하고 있습니다.이러한 모델을 효과적으로 배포하고 실시간으로 서비스하는 것은 점점 더 중요한 과제가 되고 있습니다.여기서 등장하는 것이 바로 vLLM입니다. vLLM은 대형 언어 모델을 고성능, 저지연으로 서빙하기 위해 설계된 라이브러리입니다. vLLM의 주요 기능1. 고성능 서빙:vLLM의 가장 큰 강점 중 하나는 PagedAttention이라는 기술을 사용하여 메모리 관리와 처리 성능을 극대화한다는 점입니다.. 2024. 8. 29. Docker 튜토리얼 안녕하세요 머킹입니다.오늘 도커에 관해서 열심히 배웠는데 엄청 유용하더라구요.시간이 너무 짧아서 아쉬웠어요. 도커는 물론, 쿠버네티스도 배워보고 싶네요. Docker 정리 문서가상화가상화: 물리적 하드웨어 리소스를 논리적으로 나누어 여러 개의 독립된 운영체제와 애플리케이션을 동시에 실행할 수 있게 하는 기술하나의 컴퓨터를 여러 대의 컴퓨터처럼 사용 가능파이썬 가상환경: 아나콘다가 개발됨 (버전별로 가상화 가능)VMware, VirtualBox: 운영체제를 격리화하여 윈도우 내에서 리눅스를 사용 가능컨테이너 vs 가상머신컨테이너: 자원을 효율적으로 사용, 같은 OS만 사용 가능 (운영체제 의존성 존재)가상머신: 서비스 연결이 어려움, 포트포워딩 및 볼륨 매칭 필요도커: 가상머신과 컨테이너의 장점을 결합, .. 2024. 8. 28. 이전 1 2 3 4 5 ··· 13 다음 728x90
