| // Copyright 2018 The Go Authors. All rights reserved. | |
| // Use of this source code is governed by a BSD-style | |
| // license that can be found in the LICENSE file. | |
| // TODO(neelance): implement with actual atomic operations as soon as threads are available | |
| // See https://github.com/WebAssembly/design/issues/1073 | |
| package atomic | |
| import "unsafe" | |
| //go:nosplit | |
| //go:noinline | |
| func Load(ptr *uint32) uint32 { | |
| return *ptr | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Loadp(ptr unsafe.Pointer) unsafe.Pointer { | |
| return *(*unsafe.Pointer)(ptr) | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func LoadAcq(ptr *uint32) uint32 { | |
| return *ptr | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func LoadAcq64(ptr *uint64) uint64 { | |
| return *ptr | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func LoadAcquintptr(ptr *uintptr) uintptr { | |
| return *ptr | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Load8(ptr *uint8) uint8 { | |
| return *ptr | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Load64(ptr *uint64) uint64 { | |
| return *ptr | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Xadd(ptr *uint32, delta int32) uint32 { | |
| new := *ptr + uint32(delta) | |
| *ptr = new | |
| return new | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Xadd64(ptr *uint64, delta int64) uint64 { | |
| new := *ptr + uint64(delta) | |
| *ptr = new | |
| return new | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Xadduintptr(ptr *uintptr, delta uintptr) uintptr { | |
| new := *ptr + delta | |
| *ptr = new | |
| return new | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Xchg(ptr *uint32, new uint32) uint32 { | |
| old := *ptr | |
| *ptr = new | |
| return old | |
| } | |
| //go:nosplit | |
| func Xchg8(addr *uint8, v uint8) uint8 { | |
| return goXchg8(addr, v) | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Xchg64(ptr *uint64, new uint64) uint64 { | |
| old := *ptr | |
| *ptr = new | |
| return old | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Xchgint32(ptr *int32, new int32) int32 { | |
| old := *ptr | |
| *ptr = new | |
| return old | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Xchgint64(ptr *int64, new int64) int64 { | |
| old := *ptr | |
| *ptr = new | |
| return old | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Xchguintptr(ptr *uintptr, new uintptr) uintptr { | |
| old := *ptr | |
| *ptr = new | |
| return old | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func And8(ptr *uint8, val uint8) { | |
| *ptr = *ptr & val | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Or8(ptr *uint8, val uint8) { | |
| *ptr = *ptr | val | |
| } | |
| // NOTE: Do not add atomicxor8 (XOR is not idempotent). | |
| //go:nosplit | |
| //go:noinline | |
| func And(ptr *uint32, val uint32) { | |
| *ptr = *ptr & val | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Or(ptr *uint32, val uint32) { | |
| *ptr = *ptr | val | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Cas64(ptr *uint64, old, new uint64) bool { | |
| if *ptr == old { | |
| *ptr = new | |
| return true | |
| } | |
| return false | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Store(ptr *uint32, val uint32) { | |
| *ptr = val | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func StoreRel(ptr *uint32, val uint32) { | |
| *ptr = val | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func StoreRel64(ptr *uint64, val uint64) { | |
| *ptr = val | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func StoreReluintptr(ptr *uintptr, val uintptr) { | |
| *ptr = val | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Store8(ptr *uint8, val uint8) { | |
| *ptr = val | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Store64(ptr *uint64, val uint64) { | |
| *ptr = val | |
| } | |
| // StorepNoWB performs *ptr = val atomically and without a write | |
| // barrier. | |
| // | |
| // NO go:noescape annotation; see atomic_pointer.go. | |
| func StorepNoWB(ptr unsafe.Pointer, val unsafe.Pointer) | |
| //go:nosplit | |
| //go:noinline | |
| func Casint32(ptr *int32, old, new int32) bool { | |
| if *ptr == old { | |
| *ptr = new | |
| return true | |
| } | |
| return false | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Casint64(ptr *int64, old, new int64) bool { | |
| if *ptr == old { | |
| *ptr = new | |
| return true | |
| } | |
| return false | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Cas(ptr *uint32, old, new uint32) bool { | |
| if *ptr == old { | |
| *ptr = new | |
| return true | |
| } | |
| return false | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Casp1(ptr *unsafe.Pointer, old, new unsafe.Pointer) bool { | |
| if *ptr == old { | |
| *ptr = new | |
| return true | |
| } | |
| return false | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Casuintptr(ptr *uintptr, old, new uintptr) bool { | |
| if *ptr == old { | |
| *ptr = new | |
| return true | |
| } | |
| return false | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func CasRel(ptr *uint32, old, new uint32) bool { | |
| if *ptr == old { | |
| *ptr = new | |
| return true | |
| } | |
| return false | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Storeint32(ptr *int32, new int32) { | |
| *ptr = new | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Storeint64(ptr *int64, new int64) { | |
| *ptr = new | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Storeuintptr(ptr *uintptr, new uintptr) { | |
| *ptr = new | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Loaduintptr(ptr *uintptr) uintptr { | |
| return *ptr | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Loaduint(ptr *uint) uint { | |
| return *ptr | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Loadint32(ptr *int32) int32 { | |
| return *ptr | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Loadint64(ptr *int64) int64 { | |
| return *ptr | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Xaddint32(ptr *int32, delta int32) int32 { | |
| new := *ptr + delta | |
| *ptr = new | |
| return new | |
| } | |
| //go:nosplit | |
| //go:noinline | |
| func Xaddint64(ptr *int64, delta int64) int64 { | |
| new := *ptr + delta | |
| *ptr = new | |
| return new | |
| } |