local llm

· 프로젝트
ChatGPT, Perplexity, Claude등 여러가지 LLM모델을 사용해 프로젝트 작업, 일상에 많은 도움을 받고 있다.다만, 외부 서버를 거치기 때문에 민감한 정보가 포함된 질문을 하기에는 깨름직한 부분이 있다.이 문제를 해결해보고자 로컬 LLM환경을 구축해 사용하고 있었다. 관련 글 : https://w-storage.tistory.com/53 맥북에서 LLM을 실행해보자! (Llama2, Ollama)1. 개요 바야흐로 LLM(Large language model) 전성시대이다. 하루가 멀다하고 여러 LLM이 등장하고 있으며 이를 통해 생산성이 크게 향상되고 있다. 유명한 LLM으로는 GPT, Gemini, Claude등이 있는데, 이런 서w-storage.tistory.comhttps://..
· 프로젝트
개인적으로 local LLM에 관심이 있어 여러가지 상황에서 이용해보고 있다.Ollama를 이용해 LLM모델을 사용하는데, 터미널에서 질문하고 답변을 듣는것은 여러가지 불편한점이 있어 UI환경에서 Ollama를 이용할 수 있는 서비스를 찾아보았고, Ollamac이라는 서비스를 발견했다. https://github.com/kevinhermawan/Ollamac GitHub - kevinhermawan/Ollamac: Mac app for OllamaMac app for Ollama. Contribute to kevinhermawan/Ollamac development by creating an account on GitHub.github.com Ollamac 앱을 이용하면 데스크탑 앱(UI환경)으로 LLM..
wacku
'local llm' 태그의 글 목록