Thỏa thuận trọng tài có thể được xác lập dưới hình thức điều khoản trọng tài trong hợp đồng hoặc dưới hình thức một thỏa thuận riêng. Thỏa thuận trọng tài phải được lập thành văn bản và thể hiện rõ ý chí của các bên về việc đưa tranh chấp ra giải quyết tại trọng tài.
Một thỏa thuận trọng tài hợp lệ là điều kiện tiên quyết để Hội đồng trọng tài có thẩm quyền giải quyết tranh chấp.