[GPT기술] Llama2 AI모델을 이용한 검색 기술에 활용하기
Llama2 는 누구나 무료로 다운로드하여 사용할 수 있는 대규모 오픈 소스 언어 모델입니다.
자율주행차부터 챗봇까지, AI혁명으로 사회 전반의 삶의 변화가 일어나고 있습니다. AI의 가장 흥미로운 발전 중 하나는 대규모 언어 모델의 생성입니다. 이러한 모델은 일관되고 이해하기 쉬운 새로운 텍스트를 생성하기 위해 기사 및 소셜 미디어 게시물과 같은 대량의 데이터에 대해 훈련되었습니다.
대규모 언어 모델의 잘 알려진 예로는 OpenAI의 ChatGPT, Google의 Google Bard, Meta의 Llama 2가 있습니다. Meta는 Microsoft와 협력하여 Lama 2 모델을 출시했습니다.
Llama2 AI모델에 대한 소개
Llama 2는 페이스북 모회사 메타의 AI 그룹에서 개발한 대규모 언어 모델입니다. 이 모델은 사전 학습된 매개변수 규모에 따라 3가지 버전으로 제공되며 Local Computer에서도 작동을 할 수가 있습니다.
1. Llama-2-7B: 70억 개의 매개변수로 사전 학습 (최소 8GB의 RAM 필요)
2. Llama-2-13B: 130억 개의 매개변수로 사전 학습 (최소 16GB의 RAM 필요)
3. Llama-2-70B: 700억 개의 매개변수로 사전 학습 (32GB의 RAM 필요)
이 모델들은 연구와 상업적인 용도로 완전 무료로 사용할 수 있으며, 매개변수 규모를 선택하여 다양한 작업에 활용할 수 있습니다. Llama 2는 기존 버전보다 더 많은 토큰으로 학습되었으며, 콘텍스트 길이도 증가하여 다양한 언어 처리 작업에서 효과적으로 활용할 수 있습니다.
Llama 2는 Amazon Web Services(AWS), Hugging Face 및 기타 제공업체를 통해서도 제공됩니다
Llama 2의 우선 파트너로서 Microsoft와의 파트너십을 한 단계 더 발전시키고 생성 AI에 대한 노력을 확대하였습니다.
이제 Llama 2는 Azure AI 모델 카탈로그에서도 제공됩니다. Microsoft Azure를 사용하는 개발자는 Llama 2를 사용하여 Azure 클라우드 기반에서 구축 할 수 있습니다. 또한 Windows에서 로컬로 실행되도록 최적화되어 개발자가 다양한 플랫폼에서 고객에게 생성적 AI 경험을 제공할 때 원활한 워크플로를 제공합니다.
Lama2를 이용한 검색 기술에 활용하기
Lama2 lama.search()를 이용한 데이터 조회 조건 사용법 정리하여 보았습니다.
1. 단일 조건 검색 : lama.eq("key", "value")
# 특정 Key 값이 "Value"인 데이터를 찾는다.
criteria = lama.eq("key", "value")
search_result = lama.search(json_data, criteria)
2. 범위 기반 조회: lama.between("age", 25, 35)
# 연령이 25~35인 사람을 찾는다.
criteria = lama.between("age", 25, 35)
search_result = lama.search(json_data, criteria)
3. 부분 문자열 포함 여부 조회: lama.contains("name", "John")
# 이름이 john인 사람을 찾는다.
criteria = lama.contains("name", "John")
search_result = lama.search(json_data, criteria)
4. 여러 조건을 AND로 결합하여 조회: lama.and_( 조건 1, 조건 2)
- 조건 1과 조건 2를 만족하는 데이터를 찾는다.
# 30세 이상의 여성을 찾는다.
criteria = lama.and_(lama.eq("gender", "Female"), lama.gte("age", 30))
search_result = lama.search(json_data, criteria)
5. OR 연산자를 사용한 조회: lama.or_( 조건 1, 조건 2)
- 조건 1 또는 조건 2를 만족하는 데이터를 찾는다.
# 도시 뉴욕 또는 로스엔젤런스에 거주하는 사람을 찾는다.
criteria = lama.or_(lama.eq("city", "New York"), lama.eq("city", "Los Angeles"))
search_result = lama.search(json_data, criteria)
6. 리스트 내 요소 조회: lama.contains("interests", "Skiing")
- 리스트에 포함된 데이터를 찾는다.
# interests 리스트에서 "Skiing"가 포함된 경우를 찾는다.
criteria = lama.contains("interests", "Skiing")
search_result = lama.search(json_data, criteria)
예시 1 - Llama2를 이용한 jason data 검색
- 예시 JSON 데이터를 확장하여 30세 이상의 여성 중 스키를 좋아하는 사람을 찾는다.
from lama2 import Lama
# Lama 객체 생성
lama = Lama()
# 검색할 JSON 데이터 (예시)
json_data = {
"name": "Jane Smith",
"age": 35,
"gender": "Female",
"interests": ["Skiing", "Hiking"],
"city": "Mountain Town"
}
# Lama를 사용하여 확장된 조건으로 검색 수행
criteria = lama.and_(
lama.gte("age", 30),
lama.eq("gender", "Female"),
lama.contains("interests", "Skiing")
)
search_result = lama.search(json_data, criteria)
# 결과 출력
print("검색 결과:", search_result)
예시 2 - Llama2를 이용한 jason data 검색
단순한 문장보다 정확한 결과를 도출하고자 Lama2의 데이터 검색으로 json data로 찾는 조건을 제공하여 조회하는 방법을 작성해 보았습니다.
- json_input_data로 찾는 조건을 만들어 유사한 데이터 찾는 예시입니다.
from lama2 import Lama
# Lama 객체 생성
lama = Lama()
from lama2 import Lama
# Json_input_data
json_input_data = {
"age": "above 30",
"interests": ["Movie", "Skiing"]
}
# 검색할 JSON 데이터
json_data = [
{
"id": 201,
"name": "Jane Smith",
"age": 35,
"gender": "Female",
"interests": ["Skiing", "Hiking"],
"city": "Mountain Town"
},
{
"id": 202,
"name": "James Mason",
"age": 31,
"gender": "Male",
"interests": ["Soccer", "Skiing", "Hiking"],
"city": "EmberHouse Avenue"
},
{
"id": 203,
"name": "Malcom Edison",
"age": 29,
"gender": "Male",
"interests": ["Soccer", "Baseball"],
"city": "Mountain Town"
},
{
"id": 205,
"name": "Elise Mire",
"age": 40,
"gender": "Female",
"interests": ["Movie", "Musical"],
"city": "EmberHouse Avenue"
}
]
# Lama 객체 생성
lama = Lama()
# Json_input_data를 Lama의 criteria로 변환
criteria = lama.and_(
lama.gte("age", 30),
lama.contains_all("interests", json_input_data["interests"])
)
# 결과를 저장할 리스트 초기화
matching_people = []
# Lama를 사용하여 검색 수행
for person in json_data:
if lama.match(person, criteria):
matching_people.append({"id": person["id"], "name": person["name"]})
# 결과 출력
print("유사한 사람들:", matching_people)