Io li ho usati entrambi e prefersco BibDesk. Tra l’altro se lavori su un Mac, tieni presente che BibDesk viene installato direttamente con MacTeX; quindi ce l’hai già a bordo: guarda in Applications/TeX/ ci troverai BibDesk.app già pronto all’uso.
Se però devi lavorare anche su altre macchine, l’opzione fra i due programmi non si pone nemmeno perché, che io sappia, BibDesk lavora solo sul Mac. I file prodotti dai due programmi sono di solito compatibili, ma ricordati che le ultime versioni di BibDesk usano la codifica UNICODE o UTF-8, mentre JabRef deve essere configurato apposta per usare la stessa codifica UTF-8. Se non lo fai vai incontro ai soliti problemi di compatibilità.
Penso di poter affermare cheBibDesk ha funzionalità che JabRef non ha, ma per database bibliografici privi di grosse singolarità, entrambi vanno benissimo e sono compatibili fra di loro, purché tu faccia attenzione alla codifica.