Add base llama-65b model
This commit is contained in:
		
							parent
							
								
									69b107e8f7
								
							
						
					
					
						commit
						4f18d40000
					
				| 
						 | 
					@ -52,20 +52,21 @@ const chatModelBase = {
 | 
				
			||||||
} as ModelDetail
 | 
					} as ModelDetail
 | 
				
			||||||
 | 
					
 | 
				
			||||||
export const chatModels : Record<string, ModelDetail> = {
 | 
					export const chatModels : Record<string, ModelDetail> = {
 | 
				
			||||||
      // 'enoch/llama-65b-hf': {
 | 
					      'enoch/llama-65b-hf': {
 | 
				
			||||||
      //   ...chatModelBase,
 | 
					        ...chatModelBase,
 | 
				
			||||||
      //   label: 'Petals - Llama-65b'
 | 
					        label: 'Petals - Llama-65b',
 | 
				
			||||||
      // },
 | 
					        max: 2048
 | 
				
			||||||
      // 'codellama/CodeLlama-34b-Instruct-hf ': {
 | 
					      },
 | 
				
			||||||
      //   ...chatModelBase,
 | 
					 | 
				
			||||||
      //   label: 'Petals - CodeLlama-34b',
 | 
					 | 
				
			||||||
      //   max: 2048
 | 
					 | 
				
			||||||
      // },
 | 
					 | 
				
			||||||
      'timdettmers/guanaco-65b': {
 | 
					      'timdettmers/guanaco-65b': {
 | 
				
			||||||
        ...chatModelBase,
 | 
					        ...chatModelBase,
 | 
				
			||||||
        label: 'Petals - Guanaco-65b',
 | 
					        label: 'Petals - Guanaco-65b',
 | 
				
			||||||
        max: 2048
 | 
					        max: 2048
 | 
				
			||||||
      },
 | 
					      },
 | 
				
			||||||
 | 
					      // 'codellama/CodeLlama-34b-Instruct-hf ': {
 | 
				
			||||||
 | 
					      //   ...chatModelBase,
 | 
				
			||||||
 | 
					      //   label: 'Petals - CodeLlama-34b',
 | 
				
			||||||
 | 
					      //   max: 2048
 | 
				
			||||||
 | 
					      // },
 | 
				
			||||||
      // 'meta-llama/Llama-2-70b-hf': {
 | 
					      // 'meta-llama/Llama-2-70b-hf': {
 | 
				
			||||||
      //   ...chatModelBase,
 | 
					      //   ...chatModelBase,
 | 
				
			||||||
      //   label: 'Petals - Llama-2-70b'
 | 
					      //   label: 'Petals - Llama-2-70b'
 | 
				
			||||||
| 
						 | 
					
 | 
				
			||||||
		Loading…
	
		Reference in New Issue