¿Si pierdo un juicio por temas hereditarios tengo que pagar las costas?

Buenos días:

En primer lugar, habría que saber cuál era la ley aplicable a la sucesión de su padre, lo que vendrá determinado por su nacionalidad y, en caso de ser española, habrá que saber el lugar donde se ubicó su último domicilio.

En caso de ser español y de vecindad común (es decir, que no estemos hablando de derechos forales), los herederos legitimarios serían los descendientes (ud. y sus hermanos) y al cónyuge viudo le correspondería un usufructo sobre vivienda.
Ahora bien, por lo que respecta a su madre, por lo que cuenta ¿ya estaban sus padres divorciados cuando su padre falleció? En tal caso, y a falta de testamento, a su madre no le correspondería nada de la herencia de su padre, quedando por tanto como único herederos Ud. y sus hermanos, a partes iguales.
Habría que proceder a hacer inventario y evalúo de la herencia, es decir, determinar que bienes y deudas dejó su padre al morir y proceder a su reparto a partes iguales.
No obstante, me da la impresión de que el único bien heredado fue una vivienda. En tal caso, Ud. y sus hermanos pasarían a ser propietarios a partes iguales de la misma.
Por tanto, de ser esto así, no tendría sentido que Ud. se abocara a un procedimiento judicial por negarse al reparto de la herencia. Al ser un procedimiento contencioso, efectivamente podrá ser condenada al pago de las costas, que no serán económicas probablemente.
Finalmente, en nada afectaría el tema que comenta de que su hermano se marchara de casa y no atendiera a su padre. No obstante, si Ud. tuvo que afrontar en solitario el coste de atender a su padre, por no disponer este de recursos suficientes, Ud, podría reclamar a su hermano la parte que le correspondería haber abonado de esos gastos y que no abonó, si bien en otro procedimiento que nada tiene que ver con la partición de la herencia.

Esperando haberle sido de utilidad, quedamos a su entera disposición,

Saludos cordiales.