Stima di una probabilità data altre probabilità da un precedente

Question

Ho un gruppo di dati in arrivo (chiamate a un call center automatico) sull'opportunità o meno di acquistare un particolare prodotto, 1 per l'acquisto, 0 per non acquistare.

Desidero utilizzare questi dati per creare una probabilità stimata che una persona acquisterà un particolare prodotto, ma il problema è che potrebbe essere necessario farlo con dati storici relativamente bassi sul numero di persone che hanno acquistato/non acquistato quel prodotto.

Un amico ha raccomandato che con la probabilità bayesiana è possibile "aiutare" la stima di probabilità presentando una "distribuzione di probabilità precedente", essenzialmente si tratta di informazioni su ciò che si prevede di vedere, prima di prendere in considerazione i dati effettivi.

Allora, cosa mi piacerebbe fare è creare un metodo che ha qualcosa di simile firma (Java):

double estimateProbability(double[] priorProbabilities, int buyCount, int noBuyCount); 

priorProbabilities è un array di probabilità che ho visto per i prodotti precedenti, che questo metodo userebbe per creare una distribuzione precedente per questa probabilità. buyCount e noBuyCount sono i dati effettivi specifici di questo prodotto, da cui desidero stimare la probabilità dell'acquisto dell'utente, dati i dati e il preventivo. Questo viene restituito dal metodo come un doppio.

non ho bisogno di una soluzione matematicamente perfetta, solo qualcosa che farà meglio di un uniforme o piatta precedente (es. probabilità = buyCount/(buyCount + noBuyCount)). Poiché sono molto più familiare con il codice sorgente che con la notazione matematica, sarei grato se le persone potessero usare il codice nella loro spiegazione.

Answer 1

Ecco il calcolo bayesiano e un esempio/test:

def estimateProbability(priorProbs, buyCount, noBuyCount): 
    # first, estimate the prob that the actual buy/nobuy counts would be observed 
    # given each of the priors (times a constant that's the same in each case and 
    # not worth the effort of computing;-)` 
    condProbs = [p**buyCount * (1.0-p)**noBuyCount for p in priorProbs] 
    # the normalization factor for the above-mentioned neglected constant 
    # can most easily be computed just once 
    normalize = 1.0/sum(condProbs) 
    # so here's the probability for each of the prior (starting from a uniform 
    # metaprior) 
    priorMeta = [normalize * cp for cp in condProbs] 
    # so the result is the sum of prior probs weighed by prior metaprobs 
    return sum(pm * pp for pm, pp in zip(priorMeta, priorProbs)) 

def example(numProspects=4): 
    # the a priori prob of buying was either 0.3 or 0.7, how does it change 
    # depending on how 4 prospects bought or didn't? 
    for bought in range(0, numProspects+1): 
    result = estimateProbability([0.3, 0.7], bought, numProspects-bought) 
    print 'b=%d, p=%.2f' % (bought, result) 

example() 

output è:

b=0, p=0.31 
b=1, p=0.36 
b=2, p=0.50 
b=3, p=0.64 
b=4, p=0.69 

che concorda con il mio per mano di calcolo per questo semplice caso. Si noti che la probabilità di acquisto, per definizione, sarà sempre tra il più basso e il più alto tra le probabilità a priori; se non è quello che vuoi, potresti voler introdurre un po 'di caramelle introducendo due "pseudo-prodotti", uno che nessuno comprerà mai (p = 0.0), uno che comprerà sempre (p = 1.0) - questo dà più peso alle osservazioni reali, per quanto scarso, e meno alle statistiche sui prodotti passati. Se lo facciamo qui, otteniamo:

b=0, p=0.06 
b=1, p=0.36 
b=2, p=0.50 
b=3, p=0.64 
b=4, p=0.94 

livelli intermedi di fudging (per spiegare la possibilità improbabile, ma non impossibile che questo nuovo prodotto può essere peggio di un qualsiasi mai precedentemente venduti, o meglio di qualsiasi di essi) può essere facilmente immaginato (dare un peso inferiore alle probabilità artificiali di 0.0 e 1.0, aggiungendo un vettore precedentePeso agli argomenti di estimateProbability).

Questo genere di cose è una parte sostanziale di quello che faccio tutto il giorno, ora che io lavoro lo sviluppo di applicazioni in Business Intelligence, ma io proprio non può ottenere abbastanza di esso ... -!)

Answer 2

Sembra che quello che stai cercando di fare è Association Rule Learning. Al momento non ho tempo per fornirti alcun codice, ma ti indicherò nella direzione di WEKA che è un fantastico toolkit di data mining open source per Java. Dovresti trovare molte cose interessanti lì che ti aiuteranno a risolvere il tuo problema.

Answer 3

Come vedo, il meglio che si possa fare è usare la distribuzione uniforme, a meno che non si abbia qualche idea riguardo la distribuzione. O stai parlando di creare una relazione tra questi prodotti e prodotti precedentemente acquistati dalla stessa persona in Amazon Fashion "chi compra questo prodotto compra anche ..." ??

Answer 4

A Un modo davvero semplice per fare ciò senza complicare la matematica è aumentare artificialmente buyCount e noBuyCount aggiungendo clienti virtuali acquistati o non acquistati. Puoi sintonizzare quanto credi in ogni particolare probabilità precedente in termini di quanti clienti virtuali pensi che valga.

In pseudocodice:

def estimateProbability(priorProbs, buyCount, noBuyCount, faithInPrior=None): 
    if faithInPrior is None: faithInPrior = [10 for x in buyCount] 
    adjustedBuyCount = [b + p*f for b,p,f in 
           zip(buyCount, priorProbs, faithInPrior] 
    adjustedNoBuyCount = [n + (1-p)*f for n,p,f in 
           zip(noBuyCount, priorProbs, faithInPrior] 
    return [b/(b+n) for b,n in zip(adjustedBuyCount, adjustedNoBuyCount]