Initial commit
Browse files- README.md +1 -1
- app.py +73 -0
- requirements.txt +5 -0
README.md
CHANGED
|
@@ -1,5 +1,5 @@
|
|
| 1 |
---
|
| 2 |
-
title: Turkish
|
| 3 |
emoji: 🏃
|
| 4 |
colorFrom: red
|
| 5 |
colorTo: purple
|
|
|
|
| 1 |
---
|
| 2 |
+
title: Turkish Q&A with XLM-RoBERTa Models
|
| 3 |
emoji: 🏃
|
| 4 |
colorFrom: red
|
| 5 |
colorTo: purple
|
app.py
ADDED
|
@@ -0,0 +1,73 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# Turkish Q&A with XLM-RoBERTa
|
| 2 |
+
|
| 3 |
+
from transformers import AutoTokenizer, AutoModelForQuestionAnswering, pipeline
|
| 4 |
+
import sentencepiece
|
| 5 |
+
import torch
|
| 6 |
+
import streamlit as st
|
| 7 |
+
import pandas as pd
|
| 8 |
+
|
| 9 |
+
text_1 = """Mustafa Kemal Atatürk, 1881 yılında Selanik'te Kocakasım Mahallesi, Islahhane Caddesi'ndeki üç katlı pembe evde doğdu. \
|
| 10 |
+
Babası Ali Rıza Efendi, annesi Zübeyde Hanım'dır. Baba tarafından dedesi Hafız Ahmet Efendi, 14-15. yüzyıllarda Konya ve Aydın'dan \
|
| 11 |
+
Makedonya'ya yerleştirilmiş Kocacık Yörüklerindendir. Annesi Zübeyde Hanım ise Selanik yakınlarındaki Langaza kasabasına yerleşmiş \
|
| 12 |
+
eski bir Türk ailesinin kızıdır. Ali Rıza Efendi, 1871 yılında Zübeyde Hanım'la evlendi. Atatürk'ün beş kardeşinden dördü küçük \
|
| 13 |
+
yaşlarda öldü, sadece Makbule (Atadan) Hanım 1956 yılına değin yaşadı."""
|
| 14 |
+
|
| 15 |
+
text_2 = """Dünya çapında 40 milyondan fazla insana bulaşan ve 1.1 milyondan fazla insanın ölümüne sebep olan \
|
| 16 |
+
corona virüsüne karşı Pfizer ile BioNTech'in geliştirdiği aşının ilk görüntüleri ortaya çıktı. Aşının fabrikadaki \
|
| 17 |
+
ilk görüntülerini değerlendiren Pfizer'ın Birleşik Krallık CEO'su, "Üretim bandında aşıyı görmek beni neşelendirdi" \
|
| 18 |
+
dedi. ABD merkezli çokuluslu ilaç şirketi Pfizer ile Türk bilim insanlarının kurduğu BioNTech’in geliştirdiği corona \
|
| 19 |
+
virüsü aşısında sona gelindi. Pfizer, paylaştığı video ile bütün dünyayı heyecanlandıran gelişmeyi duyurdu. Şirket, \
|
| 20 |
+
Belçika’daki Puurs’ta geliştirilen Covid-19 aşılarının seri üretim bandındaki üretim aşamasını uluslararası kamuoyu \
|
| 21 |
+
ile paylaştı. Almanya’nın Mainz kentinde Türk profesör Uğur Şahin ile eşi Özlem Türeci’nin kurduğu ve yönettiği \
|
| 22 |
+
biyoteknoloji şirketi BioNTech ile aşı sürecini sürdüren Pfizer’ın küçük şişelerde binlerce corona virüsü aşısı \
|
| 23 |
+
üretmeye başladığı belirtildi. Pfizer, aşının güvenli ve etkili olduğunun klinik olarak da kanıtlanması ve resmi \
|
| 24 |
+
mercilerden de onay alınması durumunda üretilen aşının dağıtılacağını duyurdu."""
|
| 25 |
+
|
| 26 |
+
|
| 27 |
+
question_list_1 = ["Mustafa Kemal hangi yıl doğdu?",
|
| 28 |
+
"Mustafa Kemal'in dedesi kimdir?"]
|
| 29 |
+
|
| 30 |
+
question_list_2 = ["Corona virüsü dünya çapında kaç kişiye bulaştı?",
|
| 31 |
+
"BioNTech nerededir?" ]
|
| 32 |
+
|
| 33 |
+
st.title("Turkish Q&A with Multilingual \
|
| 34 |
+
XLM-RoBERTa Models")
|
| 35 |
+
|
| 36 |
+
model_list = ['alon-albalak/xlm-roberta-large-xquad',
|
| 37 |
+
'deepset/xlm-roberta-large-squad2']
|
| 38 |
+
|
| 39 |
+
st.sidebar.header("Select Model")
|
| 40 |
+
model_checkpoint = st.sidebar.radio("", model_list)
|
| 41 |
+
|
| 42 |
+
st.subheader("Select Context and Question")
|
| 43 |
+
context_1 = st.text_area("Context #1", text_1, height=128)
|
| 44 |
+
context_2 = st.text_area("Context #2", text_2, height=128)
|
| 45 |
+
context_3 = st.text_area("New Context", value="", height=128)
|
| 46 |
+
|
| 47 |
+
selected_context = st.radio("Select Context", ("Context #1", "Context #2", "New Context"))
|
| 48 |
+
|
| 49 |
+
if selected_context == "Context #1":
|
| 50 |
+
selected_question = st.radio("Select Question", question_list_1)
|
| 51 |
+
elif selected_context == "Context #2":
|
| 52 |
+
selected_question = st.radio("Select Question", question_list_2)
|
| 53 |
+
elif selected_context == "New Context":
|
| 54 |
+
selected_question = st.text_area("New Question", value="", height=64)
|
| 55 |
+
|
| 56 |
+
|
| 57 |
+
def setModel(model_checkpoint):
|
| 58 |
+
model = AutoModelForQuestionAnswering.from_pretrained(model_checkpoint)
|
| 59 |
+
tokenizer = AutoTokenizer.from_pretrained(model_checkpoint)
|
| 60 |
+
return pipeline('"question-answering"', model=model, tokenizer=tokenizer)
|
| 61 |
+
|
| 62 |
+
Run_Button = st.button("Run", key=None)
|
| 63 |
+
if Run_Button == True:
|
| 64 |
+
|
| 65 |
+
qna_pipeline = setModel(model_checkpoint)
|
| 66 |
+
output = qna_pipeline(question=selected_question, context=selected_context)
|
| 67 |
+
|
| 68 |
+
df = pd.DataFrame.from_dict(output)
|
| 69 |
+
cols_to_keep = ['answer','score','start','end']
|
| 70 |
+
df_final = df[cols_to_keep]
|
| 71 |
+
|
| 72 |
+
st.header("Answer")
|
| 73 |
+
st.dataframe(df_final)
|
requirements.txt
ADDED
|
@@ -0,0 +1,5 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
streamlit
|
| 2 |
+
torch
|
| 3 |
+
transformers
|
| 4 |
+
sentencepiece
|
| 5 |
+
pandas
|