Come modellare una miscela di 3 normali in PyMC?

Question

C'è a question on CrossValidated su come utilizzare PyMC per adattare due distribuzioni normali ai dati. La risposta di Cam.Davidson.Pilon era quello di utilizzare una distribuzione Bernoulli per assegnare i dati a uno dei due Normali:

size = 10 
p = Uniform("p", 0 , 1) #this is the fraction that come from mean1 vs mean2 
ber = Bernoulli("ber", p = p, size = size) # produces 1 with proportion p. 
precision = Gamma('precision', alpha=0.1, beta=0.1) 

mean1 = Normal("mean1", 0, 0.001) 
mean2 = Normal("mean2", 0, 0.001) 

@deterministic 
def mean(ber = ber, mean1 = mean1, mean2 = mean2): 
    return ber*mean1 + (1-ber)*mean2 

Ora la mia domanda è: come si fa con tre Normali?

In sostanza, il problema è che non è più possibile utilizzare una distribuzione di Bernoulli e 1-Bernoulli. Ma come si fa allora?

---

edit: Con il suggerimento del CDP, ho scritto il seguente codice:

import numpy as np 
import pymc as mc 

n = 3 
ndata = 500 

dd = mc.Dirichlet('dd', theta=(1,)*n) 
category = mc.Categorical('category', p=dd, size=ndata) 

precs = mc.Gamma('precs', alpha=0.1, beta=0.1, size=n) 
means = mc.Normal('means', 0, 0.001, size=n) 

@mc.deterministic 
def mean(category=category, means=means): 
    return means[category] 

@mc.deterministic 
def prec(category=category, precs=precs): 
    return precs[category] 

v = np.random.randint(0, n, ndata) 
data = (v==0)*(50+ np.random.randn(ndata)) \ 
     + (v==1)*(-50 + np.random.randn(ndata)) \ 
     + (v==2)*np.random.randn(ndata) 
obs = mc.Normal('obs', mean, prec, value=data, observed = True) 

model = mc.Model({'dd': dd, 
       'category': category, 
       'precs': precs, 
       'means': means, 
       'obs': obs}) 

Le tracce con la seguente procedura di campionamento guardare bene pure. Risolto!

mcmc = mc.MCMC(model) 
mcmc.sample(50000,0) 
mcmc.trace('means').gettrace()[-1,:] 

Answer 1

c'è un oggetto mc.Categorical che fa proprio questo.

p = [0.2, 0.3, .5] 
t = mc.Categorical('test', p) 
t.random() 
#array(2, dtype=int32) 

restituisce un int compreso tra 0 e len(p)-1. Per modellare le 3 normali, si rende p un oggetto mc.Dirichlet (accetta un array di lunghezza come iperparametri; l'impostazione dei valori nell'array per essere uguale equivale a impostare le probabilità precedenti uguale). Il resto del modello è quasi identico.

Questa è una generalizzazione del modello che ho suggerito sopra.

---

Aggiornamento:

Va bene, così invece di avere mezzi differenti, possiamo tutti collassare in 1:

means = Normal("means", 0, 0.001, size=3) 

... 

@mc.deterministic 
def mean(categorical=categorical, means = means): 
    return means[categorical]