Tümevarımlı mantık programlama

Tümevarımlı mantık programlama (TMP) bilginin mantık programlama ile ifade edildiği bir makine öğrenmesi yöntemidir. Mantıksal olgulardan oluşan artalan bilgisi ve gözlemler kümesini içeren bir veritabanı verildiğinde, ILP sistemi tüm olumlu gözlemleri gerektiren ve olumsuz gözlemlerin hiçbirini gerektirmeyen bir hipotez üretir.

• Çerçeve: olumlu gözlemler + olumsuz gözlemler + artalan bilgisi ⇒ hipotez.

Tümevarımlı mantık programlama özellikle biyoenformatik ve doğal dil işleme konularında kullanışlıdır. Gordon Plotkin ve Ehud Shapiro mantık çerçevesiyle tümevarımlı makine öğreniminin ilk kuramsal temellerini oluşturmuşlardır.^[1][2][3] Shapiro bunun ilk gerçeklemesini (Model Çıkarsama sistemi) 1981'de yapmıştır:^[4] olumlu ve olumsuz gözlemlerden tümevarımlı olarak mantık programları çıkarsayan bir Prolog programı. Tümevarımlı Mantık Programlama terimininilk kullanımı^[5] Stephen Muggleton'ın 1991 tarihli bir bildirisinde yapılmıştır.^[6] Ayrıca her sene yapılan Inductive Logic Programming konferansının kurucusu olan Muggleton, yüklem türetme, ters çözümleme, ve ters gerektirme^[7][8] kavramlarının fikir babasıdır. Muggleton ters gerektirmeyi ilk olarak PROGOL sisteminde gerçekleştirmiştir. Buradaki "tümevarım" kavramı matematiksel (bir özelliğin bir kümedeki her eleman için ispatlanması gibi) olmaktan çok felsefik (gözlemlenen olguları açıklayan bir kuram ortaya koymak gibi) bir tümevarımdır.

Biçimsel tanım

Bir mantıksal kuram olarak verilen artalan bilgisi ${\displaystyle B}$, genellikle mantık programlamada kullanılan Horn cümleleri şeklindedir. Gözetimli öğrenme için kullanılan olumlu ve olumsuz örnekler ${\displaystyle E^{+}}$ ve ${\displaystyle E^{-}}$, temel ifadeler olarak verilir. Aşağıdaki gereklilikleri sağlayan bir mantıksal önermeye bir doğru hipotez ${\displaystyle h}$ denir.^[9]

${\displaystyle {\begin{array}{llll}{\text{Zorunluluk:}}&B&\not \models &E^{+}\\{\text{Yeterlilik:}}&B\land h&\color {blue}{\models }&E^{+}\\{\text{Zayıf tutarlılık:}}&B\land h&\not \models &{\text{yanlış}}\\{\text{Güçlü tutarlılık:}}&B\land h\land E^{-}&\not \models &{\text{yanlış}}\end{array}}}$

"Zorunluluk" hipotez h üzerinde herhangi bir kısıtlama yapmaz, ancak olumlu örnekler bir hipotez olmadan açıklanabilir olduğu sürece yeni bir hipotez oluşturulmasını engeller. "Yeterlilik" oluşturulan herhangi bir ${\displaystyle h}$ hipotezinin tüm olumlu örnekleri (${\displaystyle E^{+}}$) açıklamasını gerektirir. "Zayıf tutarlılık" artalan bilgisi ${\displaystyle B}$ ile çelişen bir hipotez ${\displaystyle h}$ oluşturulmasını yasaklar. "Güçlü tutarlılık" ayrıca artalan bilgisi ${\displaystyle B}$ ve olumsuz örnekler ${\displaystyle E^{-}}$ ile çelişen bir hipotez ${\displaystyle h}$ oluşturulmasını yasaklar; Zayıf tutarlılık'ı gerektirir; eğer hiç olumsuz örnek verilmemişse bu iki gereklilik aynıdır. Džeroski ^[10] yalnızca Yeterlilik ("Bütünlük" olarak adlandırır) ve Güçlü tutarlılık'ı gerekli tutar.

Kaynakça

1. Plotkin G.D. Automatic Methods of Inductive Inference, PhD thesis, University of Edinburgh, 1970.
2. Shapiro, Ehud Y. Inductive inference of theories from facts, Research Report 192, Yale University, Department of Computer Science, 1981.
3. Shapiro, Ehud Y. (1983).
4. Shapiro, Ehud Y. "The model inference system."
5. Luc De Raedt.
6. Muggleton, S.H. (1991). "Inductive logic programming". New Generation Computing 8 (4): 295–318. DOI:10.1007/BF03037089. 
7. Muggleton S.H. and Buntine W. "Machine invention of first-order predicate by inverting resolution","Proceedings of the 5th International Conference on Machine Learning, 1988.
8. Muggleton S.H., "Inverting entailment and Progol", New Generation Computing, 13:245-286, 1995.
9. Muggleton, Stephen (1999). "Inductive Logic Programming: Issues, Results and the Challenge of Learning Language in Logic". Artificial Intelligence 114: 283–296. DOI:10.1016/s0004-3702(99)00067-3. 
10. Džeroski, Sašo (1996), "Inductive Logic Programming and Knowledge Discovery in Databases", Fayyad, U.M.; Piatetsky-Shapiro, G.; Smith, P. ve diğ., Advances in Knowledge Discovery and Data Mining, MIT Press, ss. 117–152 ; here: Sect.5.2.4