La leyenda más popular sobre el café en Etiopía suele ser algo así: Kaldi, un cabrero abisinio de Kaffa, pastoreaba sus cabras por una zona montañosa cerca de un monasterio. Se dio cuenta de que ese día se estaban comportando de manera muy extraña y habían comenzado a saltar de manera excitada, ladrar fuerte y prácticamente bailar sobre sus patas traseras. Descubrió que la fuente de la emoción era un pequeño arbusto (o, según algunas leyendas, un pequeño grupo de arbustos) con bayas de color rojo brillante. La curiosidad se apoderó de él y él mismo probó las bayas.
Al igual que sus cabras, Kaldi sintió los efectos tonificantes de las bayas de café. Después de llenar sus bolsillos con bayas rojas, se apresuró a regresar a casa con su esposa, y ella le aconsejó que fuera al monasterio cercano para compartir estas bayas "celestiales" con los monjes de allí.Al llegar al monasterio, los granos de café de Kaldi no fueron recibidos con alegría sino con desprecio. Un monje llamó a la abundancia de Kaldi "obra del diablo" y la arrojó al fuego. Sin embargo, según la leyenda, el olor de los granos tostados fue suficiente para que los monjes dieran una segunda oportunidad a esta novedad. Sacaron los granos de café del fuego, los trituraron para apagar las brasas y los cubrieron con agua caliente en una jarra para conservarlos (o eso cuenta la historia).
Todos los monjes del monasterio olieron el café y vinieron a probarlo. Al igual que los monjes budistas de China y Japón que bebían té, estos monjes encontraron beneficiosos los efectos vigorizantes del café para mantenerlos despiertos durante su práctica espiritual (en este caso, oración y devociones). Prometieron que a partir de entonces beberían esta nueva bebida todos los días como apoyo a sus devociones religiosas.
Existe un mito de origen alternativo del café que atribuye el descubrimiento del café a un hombre llamado Omar, que vivía como ermitaño en Mocha, Yemen.