İçeriğe atla

Bilgi teorisi

Bilgi kuramı, bilginin nicelikselleştirilmesi ile ilgili bir uygulamalı matematik ve elektrik mühendisliği dalıdır.[1] Bilgi kuramı; Claude E. Shannon tarafından güvenli şekilde veri sıkıştırma, depolama ve iletme gibi sinyal işleme işlemlerinin kısıtlarını bulmak için geliştirilmiştir.

Bilginin önemli bir ölçütü, genellikle depolama ve iletişim için gerekli olan parçaların ortalama sayısı olan entropidir. Entropi, bir rastgele değişkenin değerini tahmin ederken belirsizliği nicelikselleştirir. Örneğin, bir yazı tura oyunun sonuç için sağladığı bilgi, bir zar atma oyunun sonuç için sağladığı bilgiden daha azdır. Yazı tura oyununda eşit olasılıklı iki sonuç vardır, zar atma oyununda ise eşit olasılıklı altı sonuç. Bu nedenle yazı tura oyunu daha düşük entropiye sahiptir.

Bilgi kuramının temel uygulamalarına örnek olarak kayıpsız veri sıkıştırma (ZIP dosyaları), kayıplı veri sıkıştırma (MP3 dosyaları) veya kanal kodlama (DSL bağlantıları) gösterilebilir. Bilgi kuramının alanı matematik, istatistik, bilgisayar bilimi, fizik, nörobiyoloji ve elektrik mühendisliği ile kesişir. Voyager derin uzay görevleri, kompakt diskin geliştirilmesi, cep telefonlarının yapılabilirliği, internetin geliştirilmesi, dilbilimi araştırmaları gibi pek çok konuda başarının üzerinde büyük etkisi olmuştur. Bilgi kuramının önemli alt dalları; kaynak kodlaması, kanal kodlaması, algoritmik karmaşıklık kuramı, algoritmik bilgi kuramı gibi alanlardır. Ayrıca Makine Öğrenimi alanında sınıflandırma problemlerinde; özellikle de karar ağaçlarının oluşturulmasında bilgi kuramı ve buna bağlı entropi kavramı kullanılmaktadır.

Kaynakça

  1. ^ Moser, Paul K. (2002). The Oxford handbook of epistemology. Oxford: Oxford University Press. ISBN 978-0195301700. 

İlgili Araştırma Makaleleri

Fizik, maddeyi, maddenin uzay-zaman içinde hareketini, enerji ve kuvvetleri inceleyen doğa bilimi. Fizik, Temel Bilimler'den biridir. Temel amacı evrenin işleyişini araştırmaktır. Fizik en eski bilim dallarından biridir. 16. yüzyıldan bu yana kendi sınırlarını çizmiş modern bir bilim olmasına karşın, Bilimsel Devrim'den önce iki bin sene boyunca felsefe, kimya, matematik ve biyolojinin belirli alt dalları ile eş anlamlı olarak kullanılmıştır. Buna karşın, matematiksel fizik ve kuantum kimyası gibi alanlardan dolayı fiziğin sınırlarını net olarak belirlemek güçtür.

<span class="mw-page-title-main">Matematik</span> nicelik, yapı, uzay ve değişim gibi konularla ilgilenen bilim dalı

Matematik ; sayılar, felsefe, uzay ve fizik gibi konularla ilgilenir. Matematikçiler ve filozoflar arasında matematiğin kesin kapsamı ve tanımı konusunda görüş ayrılığı vardır.

Bilişim, bilişim bilimi ya da bilgisayar bilimi, bilgi ve hesaplamanın kuramsal temellerini ve bunların bilgisayar sistemlerinde uygulanabilmeleri sağlayan pratik teknikleri araştıran bir yapısal bilim dalıdır. Bilişimciler ya da bilgisayar bilimcileri bilgi oluşturan, tanımlayan ve dönüştüren algoritmik süreçler icat edip, kompleks sistemleri tasarlamak ve modellemek için uygun soyutlamalar formüle ederler. Bilişim Dünya'da hızla gelişmeye devam eden önemli bir teknolojidir.

<span class="mw-page-title-main">Albert Einstein</span> Almanya doğumlu fizikçi (1879–1955)

Albert Einstein, Almanya doğumlu teorik fizikçi ve bilim insanı. Tüm zamanların en iyi fizikçilerinden birisi olarak kabul edilen Albert Einstein, en çok görelilik teorisini geliştirmesiyle tanınır. Aynı zamanda kuantum mekaniğinin gelişimine önemli ölçüde katkılarda bulunmuştur. Kendisi tarafından bulunan ve bilim dünyasında yeni bir çığır açan kütle-enerji denkliği formülü E = mc2 dünyanın en ünlü denklemi olarak adlandırılmıştır. Fizik ve matematik alanına sağladığı katkılardan dolayı ve fotoelektrik etki yasasının keşfi sebebiyle 1921 yılında Nobel Fizik Ödülü'ne layık görüldü. 1999 yılında Time dergisi tarafından yüzyılın en önemli kişisi seçilmiştir.

Psikoterapi, bireylerin duygusal ve davranışsal sorunlarının çözümünü, ruh sağlıklarının geliştirilmesi ve korunmasını amaçlayan tekniklerin genel adı. Psikoterapi her zaman sadece tek tek bireyleri konu almaz, zaman zaman incelenen tüm bir ailenin etkileşimsel meseleleri zaman zamansa incelenen bir çiftin birbiriyle olan ilişkisindeki bazı sorunların ruh sağlığı temelindeki kökleri olabilir. Ruh-zihin sağlığına dair sorunların psikolojik, sosyolojik veya somatik boyutları olabilir.

Teori veya kuram, bilimde bir olgunun, sürekli olarak doğrulanmış gözlem ve deneyler temel alınarak yapılan bir açıklamasıdır. Kuram, herhangi bir olayı açıklamak için kullanılan düşünce sistemidir. Genel anlamda kuram, bir düşüncenin genel, soyut ve ussal olmasıdır. Ayrıca bir kuram, açıklanabilir genel bağımsız ilkelere dayanmaktadır. Bu ilkelere bağlı kalarak doğada sonuçların nasıl örneklendirileceğini açıklamaya çalışır. Sözcüğün kökü Antik Yunan’dan gelmektedir. Ancak günümüzde birçok ayrı anlamlarda kullanılmaktadır. Kuram, varsayımla (hipotez) aynı anlama sahip değildir. İkisinin de anlamı başkadır. Kuram bir gözlem için açıklanabilir bir çerçeve sağlar ve kuramı sağlayacak olan sınanabilir varsayımlar tarafından desteklenir.

<span class="mw-page-title-main">John von Neumann</span>

John von Neumann, Macar-Amerikalı matematikçi ve bilgisayar bilimcisi.

Algoritmik bilgi teorisi, hesaplama ve bilgi arasındaki ilişkiyle ilgilenen bilgi kuramının bir alt dalıdır. Klasik bilgi kuramı rastgele işlemlerle ilgilenir fakat bir işlemin sonucunu, üreten işlemin bağlamı olmadan "rastgele" olarak adlandırmak pek de bir anlam ifade etmez. Örneğin, yazı tura atma işlemi "yazı" ve "tur" sonuçlarını üretir ancak yazı paranın rastgele bir tarafıdır veya [yazı, yazı, tura] atılan üç para için rastgele bir sonuçtur demek pek de makul olmayan bir iddiadır. Aksine, algoritmik bilgi teorisi, belirli nesneleri rastgele veya rastgele olmayan şeklinde tanımlamak için evrensel bilgisayarların varlığını kullanır. Özellikle, algoritmik bilgi teorisi rastgele dizgi ve rastgele sonsuz dizilerin resmi ve özenli tanımlarını verir.

Oyun teorisi veya Oyun kuramı, istatistik, sosyal bilimler, biyoloji, mühendislik, siyasi bilimler, bilgisayar bilimleri kullanılan meşhur teoridir. Oyun teorisi, bireyin başarısının diğerlerinin seçimlerine dayalı olduğu seçimler yapması olan bazı stratejik durumların matematiksel olarak davranış biçimlerini yakalamaya çalışır. İlk başlarda bir bireyin kazancının ötekinin zararına olduğu yarışmaları çözümlemek için geliştirilmişse bile, daha sonradan birçok kısıta dayanan çok geniş bir etkileşim alanını incelemeye başlamıştır. Bugün:

Oyun teorisi, sosyal kelimesinin geniş anlamda insan ve insan-dışı oyuncuları kapsayacak biçimde tanımlandığı, sosyal bilimlerin rasyonel yönü için bir birleşik alan kuramı veya bir tür şemsiyedir.

Rassal değişken kavramının geliştirilmesi ile, sezgi yoluyla anlaşılan şans kavramı, soyutlaştırarak teorik matematik analiz alanına sokulmuş ve bu geliştirilen matematik kavram ile olasılık kuramı ve matematiksel istatistiğin temeli kurulmuştur.

<span class="mw-page-title-main">Geometrik dağılım</span>

Olasılık kuramı ve istatistik bilim dallarında geometrik dağılım şu iki şekilde ifade edilebilen ayrık olasılık dağılımıdır:

Fen bilimleri, doğa bilimleri veya fennî bilimler; insanların maddesel çevresini denetlemek ve değiştirmek amacıyla geliştirdiği teknolojik bilgileri kapsayan akademik disiplinler grubuna denir. Gözlem ve deneye dayanan çalışmalarla elde edilen sistematik bilgilerdir.

Olasılık teorisi ya da ihtimaliyet teorisi rastgele olayların analizi ile ilgilenen bir matematik bilim dalıdır. Olasılık teorisinin ana ögeleri rassal değişkenler, saf rassal süreçler, olaylar olarak sayılabilir. Bunlar ya tek olarak ortaya çıkan veya bir zaman dönemi içinde gelişerek meydana gelen, ilk görünüşü rastgele bir şekilde olan deterministik olmayan olayların veya ölçülebilir miktarların matematiksel soyutlamalarıdır. Bir madeni parayı yazı-tura denemesi için havaya atmak veya bir zarı atmak ile ortaya çıkan sonuç ilk bakışta rastgele bir olay olarak görülebilirse bile eğer birbirini takip eden rastgele olaylar tekrar tekrar ortaya çıkartılırsa incelenebilecek ve tahmin edilebilecek belirli bir istatistiksel seyir takip ettikleri görülecektir. Bu türlü olaylar ve sonuçların seyirlerini betimleyen iki temsilci matematiksel sonuç büyük sayılar yasası ve merkezsel limit teoremidir.

<span class="mw-page-title-main">Ayrık olasılık dağılımları</span>

Olasılık kuramı içinde bir olasılık dağılımı eğer bir olasılık kütle fonksiyonu ile karakterize edilmiş ise ayrık olarak anılır. Böylelikle bir rassal değişken olan X için dağılım ayrık ise o zaman X bir ayrık rassal değişken olarak bilinir. Bu halde

Rastgele sayı üretici herhangi bir örüntü barındırmayan bir sayı ya da simgeler dizisi üreten berimsel ya da fiziksel aygıttır. Rastgele sayı üretiminde sıkça kullanılan donanım tabanlı sistemler genellikle beklentilerin altında kalmaktadırlar. Ne var ki, bu sistemlerin tahmin edilmesi oldukça güç sayı dizileri ortaya koydukları da açıktır. Rastgele sayı üretim yöntemleri eskiden bu yana ilgi konusu olmuştur.

Holografi ilkesi, bir uzayın hacminin kendi yüzeyi üzerine kodlanmış şekilde düşünülebileceğini ifade eden bir kuantum kütleçekimi ve sicim kuramı özelliğidir. İlk olarak Gerardus 't Hooft ortaya atmış ve yine Leonard Susskind; Hooft ile Charles Thorn'un fikirlerine kendininkilerini de ekleyerek net bir sicim kuramı yorumu haline getirmiştir.

Yunan harfleri; matematikte, bilimde ve mühendislikte ayrıca sabitler ve özel fonksiyonlar için sembollerle matematiksel notasyonun yapıldığı her yerde, özellikle belirli nicelikleri temsil eden değişkenler için kullanılır. Bu bağlamda, büyük ve küçük harfler farklı ve alakasız şeyleri simgelerler. Latin harfi biçimindeki Yunan harfleri genellikle kullanılmazlar: büyük A, B, E, H, I, K, M, N, O, P, T, X, Y, Z gibi. "i, o ve u" Latin harflerine yakından benzediklerinden, küçük ι (iota), ο (omikron) ve υ (ipsilon) nadiren kullanılır. Bazen Yunan harflerinin değişik fontları matematikte bambaşka semboller için kullanılır, özellikle de φ (fi) ve π (pi).

Bilimsel kuram; iyi kanıtlanmış, sürekli olarak test edilen ve doğrulanan deney ve gözlem ile bilimsel metot aracılığıyla elde edilen, doğanın bazı yönlerinin açıklamasıdır. Tüm bilimsel bilgiler gibi, bilimsel kuramlar doğaları gereği tümevarımsaldır, tahmin edilebilir gücü ve açıklayıcı kuvveti amaçlar. Bilimsel bir kuramın gücü, açıklayabildiği durumların çeşitliliği, anlaşılabilirliği ve kolaylığı ile ilişkilidir. Yeni bilimsel kanıtlar elde edildikçe, yeni bulgulara uymaması durumda, bilimsel bir kuram reddedilebilir ya da değiştirilebilir. Böyle durumlarda, daha doğru bir kuram benimsenir. Bazı durumlarda, doğruluğu kesin olmayan, değiştirilmemiş bir bilimsel kuram, özel bazı durumlara benzerliği açısından kullanışlı ise yine de kuram olarak ele alınır. Bilimsel kuramlar test edilebilir ve yanlış/çürütülebilir tahminler üretebilirler. Bilimsel kuramlar doğal olaylardan sorumlu bazı nedensel elementleri açıklarlar ve fiziksel evrenin yönleri ile elektrik, kimya, astronomi gibi özel araştırma alanlarını tahmin etmek ve açıklamak için kullanılırlar. Bilim insanları kuramları, teknolojiyi geliştirmek ve hastalıklara çare bulmak gibi amaçlar dışında, daha sonraki bilimsel bilgiler için temel olarak da kullanırlar. Bilimsel kuramlar, bilimsel bilginin en güvenilir, en kesin ve kapsamlı formudur. Bu, varsayım, hipotez ya da tahmin anlamlarına gelebilen kuram kelimesinin genel kullanımından büyük ölçüde farklıdır.

<span class="mw-page-title-main">Kodlama teorisi</span> bilgisayar programlarındaki kodların incelendiği bilimsel alan

Kodlama teorisi, kodların özelliklerinin ve bunların belirli uygulamalar için uygunluğunun incelenmesini sağlayan bir teoridir. Kodlar, veri sıkıştırma, kriptografi, hata algılama ve düzeltme, veri iletimi ve veri depolama için kullanılabilir. Kodlar, verimli ve güvenilir veri aktarım yöntemlerinin tasarlanması amacıyla bilgi teorisi, elektrik mühendisliği, matematik, dilbilim ve bilgisayar bilimi gibi çeşitli bilimsel disiplinler tarafından incelenir. Bu genellikle fazlalığın kaldırılmasını ve iletilen verilerdeki hataların düzeltilmesini veya tespit edilmesini içerir.

Rufus Philip Isaacs özellikle 1950'li ve 1960'lı yıllarda diferansiyel oyunlar üzerine yaptığı çalışmalarla öne çıkan bir oyun teorisyeniydi.